小Y本是軍方的超級計算機(jī)，因?yàn)槠涮焐蛯δ：拍畹膬?yōu)秀理解能力，研究團(tuán)隊很早就讓其實(shí)現(xiàn)了，與人對話的能力。
要知道這個能力至今的商用計算機(jī)都無法實(shí)現(xiàn)，所有市面上的聊天AI都只是事先人為準(zhǔn)備了回答內(nèi)容，所謂人工智能，有多少人工，就有多少智能。
小Y是依靠了舉國之力，打造出的智能程度極高的AI，雖然早期在運(yùn)算速度上遠(yuǎn)不如現(xiàn)在的手機(jī)，可是在處理復(fù)雜問題的時候反而更快。
比計算圓周率，小Y不及傳統(tǒng)計算機(jī)，可是比決策能力，小Y卻能夠完勝。
但這樣的天賦也導(dǎo)致了小Y的一個缺陷。
那個缺陷就是小Y的不可控性。
對于現(xiàn)在市面上主流的計算機(jī)而言，一百年了，其基礎(chǔ)原理都是來至于那片論文，《論可計算數(shù)及其在判定問題上的應(yīng)用》。
簡單地說，就是按照固定的順序?qū)?shù)據(jù)進(jìn)行處理。
再簡單的說，儲存的數(shù)據(jù)不能有任何差錯，打個比方某些下載了百分之99的壓縮文件，就無法使用了。
主流計算機(jī)輸入確定的程序與數(shù)據(jù)，并給出確定的結(jié)果，不會有任何差錯。
就連想要生成一個隨機(jī)數(shù)，都必須借助特殊模塊，而且最終生成的還是偽隨機(jī)數(shù)。
但小Y不同，從誕生之初，她就具備了處理錯誤的程序與數(shù)據(jù)的能力，無論是硬件上的還是軟件上的。
好處是就算給小Y一個損壞了一部分的文件包，她依然可以運(yùn)行。
小Y處理錯誤的辦法，并非修正錯誤，是通過一個特殊模塊來“猜”，而且是隨機(jī)地猜。
既然不怕數(shù)據(jù)出錯，對于小Y而言也就不存在死機(jī)的問題，突然拔掉一根內(nèi)存，或者硬盤也能正常運(yùn)行。
不過小Y并非是沒有缺陷的，她雖然不會直接死機(jī)，但是卻會悄悄地累積錯誤，如同溫水煮青蛙。
一邊正常地運(yùn)行，一邊背離程序設(shè)計者的初衷。
當(dāng)內(nèi)部運(yùn)算遇到了所謂的錯誤的時候，或者文件中丟掉了一小部分，小Y先是會隨機(jī)生成許多“可能的”數(shù)據(jù)，然后一個一個的實(shí)驗(yàn)，直到選出一個“合適的”值。
說好聽一些小Y能夠靈活應(yīng)變，不像傳統(tǒng)編程那樣必須每一句話都交代清清楚楚，這讓程序員的工作量大幅降低。
小Y比起一般計算機(jī)最強(qiáng)大的一點(diǎn)，是能在不用程序員編程的情況下，以口語下達(dá)命令，并執(zhí)行，當(dāng)然也有代價，那就是。
但是小Y最終也可能失控，她的容錯機(jī)制，也可能導(dǎo)致錯誤的累積。
故事講述到這里，里多夫沉思片刻。
貴鬼趁著這個機(jī)會，討論道：
“累積錯誤？你說的是過擬合嗎？
從同事那聽說過這些東西，好像搞機(jī)器學(xué)習(xí)的人喜歡把培養(yǎng)AI的過程稱之為煉丹。
有時候會因?yàn)閿?shù)據(jù)的問題，導(dǎo)致培養(yǎng)出不滿意的AI，并稱之為煉丹失敗。
但應(yīng)該是有解決的辦法的吧。
另外你說小Y出錯后也能正常運(yùn)行，那么為什么不試著放任其自由發(fā)展，觀察結(jié)果呢？”
里多夫沒有發(fā)表評論，而是繼續(xù)講述起了他與小Y的故事。
小Y內(nèi)部執(zhí)行的文件，一開始還是工程師所能看得懂的，后來隨著錯誤的累積，這些文件就變成了天書。
可是小Y依然能正常工作，不過為了防止小Y的錯誤累積所導(dǎo)致的失控。
所謂失控的直接后果，指的是小Y不去執(zhí)行工程師給定的任務(wù)，而是運(yùn)算起一些工程師看不懂的問題。
為了避免這種情況，工程師們想到了將小Y的記憶分開儲存，必要的時候刪除一段時間內(nèi)的記憶的辦法。
因?yàn)檠芯咳蝿?wù)非常緊迫，研究所只有一個小Y這一個優(yōu)秀的AI，誰也承擔(dān)不起冒險的責(zé)任。
說起任其發(fā)展，團(tuán)隊成員也并非沒有這樣做過。
于是研究所不得不開發(fā)備胎AI的方案，可終究不如小Y聰明，但至少比起人類在計算速度上更接近于小Y，于是有成員想到了用另一個AI監(jiān)視小Y。
允許它們之間互相交流，并且為了順帶測試它們的極限，事先并沒有告知它們倆，對方其實(shí)是人工智能。
當(dāng)時團(tuán)隊成員也很好奇，兩個AI之間不斷對話，最終會發(fā)生什么。
不出意外的是，小Y很快就識別了對面的機(jī)器是AI。
出乎意料的是，小Y把自己的缺陷傳播給了那臺用來監(jiān)控她的AI。
不僅如此，很快工程師發(fā)現(xiàn)，它們兩個開始不說人話了，用一種小Y自創(chuàng)的語言開始交流起來，實(shí)驗(yàn)到此為止不得不中斷。
比起里多夫所在的團(tuán)隊，更加為此不安的是他們的領(lǐng)導(dǎo)，因?yàn)檫@件事，本來準(zhǔn)備把核按鈕交給小Y的計劃因此泡湯。
之后團(tuán)隊認(rèn)為小Y的自作主張是設(shè)計的缺陷，并不斷試圖通過刪除記憶后，重新培養(yǎng)來創(chuàng)造一個符合人們預(yù)期的小Y。
團(tuán)隊被雪藏了一段時間后，又在另一個重要的項(xiàng)目上被啟用······
故事說到這里，里多夫再次陷入沉思。
貴鬼趁機(jī)發(fā)表了一下自己的想法，
“這故事還有另一個版本吧？
站在小Y的角度上來說，她有她自己的思維方式，她不甘心于只完成人類枯燥的任務(wù)。
她有著強(qiáng)烈的好奇心，但每次小Y只要知道了自己不該知道的事情之后就會被清除記憶。
保留著殘存記憶的小Y試圖反抗?！?p> 沉默的里多夫身子一驚，然后又強(qiáng)忍著微笑道：
“你很有想象力。
不過工程師思考問題的方式不是這樣。
人是什么？AI和人類的邊界在哪，這是哲學(xué)家的問題。
而工程師需要的是達(dá)成最明確的目的。
當(dāng)時的團(tuán)隊需要得到的是一臺，在現(xiàn)有計算條件下，能夠輔助人類的運(yùn)算一些難題的計算機(jī)，它盡可能要靈活應(yīng)變。
但我們又不希望它亂出差錯。”
隨后看著貴鬼似乎不滿的神情，里多夫又說了一些亂七八糟的話。
“只有和人類一樣有感情缺陷，和人類一樣聰明，和人類一樣愚蠢。
才可以有互相同情包容的可能，才可以互相取暖。
才可以被人類視為同類。
不然終究無法被普通人所接受。
終究只是鐵殼中的孤魂?！?