第(1/3)頁 梁行一看起來像是一個(gè)傻子。 他有種呆板、教條的氣質(zhì)，手足無措?yún)s又瘋瘋癲癲。 他做的事情，恐怕能讓不少人嚇出一身冷汗。但是他就是這么平平常常地去做了，好像他不得不這樣做一樣。 可是，他這么做了，卻也從來沒有考慮過后果，好像一廂情愿地相信，他的愿望一定可以實(shí)現(xiàn)。 在牧嘉實(shí)的質(zhì)問下，他才意識(shí)到他應(yīng)該給他的人工智能添加一個(gè)保險(xiǎn)措施。 他怎么能確信梁知一的大腦一定能在人工智能的程序中醒過來？ 他無法確認(rèn)，但是他就這么認(rèn)為，并且深信不疑。 好在他也沒有太蠢，起碼他給他編寫的人工智能留下了一個(gè)死板的程序。 牧嘉實(shí)好不容易從他那顛三倒四的話語中，聽明白他究竟給那個(gè)人工智能安了個(gè)什么程序：“你的意思是，人工智能會(huì)不斷地刺激梁知一的大腦，嘗試讓他蘇醒？” “對。”梁行一拼命地點(diǎn)頭，“我哥一定會(huì)醒過來的！” 牧嘉實(shí)：“……” 他爆了個(gè)粗口，然后壓抑著情緒，問：“這有什么用？問題就是梁知一現(xiàn)在沒有醒過來！” 梁行一呆住了，片刻之后，他用一種誰聽了都覺得可憐的語氣說：“但是、但是我認(rèn)為，我哥會(huì)醒過來的……” “你認(rèn)為有個(gè)屁用！”牧嘉實(shí)終究沒能控制住自己的情緒，還是罵了一句，隨后他深吸一口氣。 沈云聚拍了拍他的肩膀。這家醫(yī)院似乎對他們的情緒都有著一定程度的影響，不管是正面的還是負(fù)面的，情緒似乎都變得激烈了許多。 牧嘉實(shí)慢慢冷靜下來，說：“我沒事……” 他們幾人暫時(shí)陷入了沉默之中。 梁行一呆呆地捧著那個(gè)玻璃容器，似乎有些懷疑人生的樣子。 牧嘉實(shí)多少被這家伙氣到了，一時(shí)半會(huì)兒不想說話。沈云聚似乎在思考著什么，也沒有說話。 于是，最終是神婆問了一個(gè)問題：“你制作的人工智能，究竟有什么用？” 梁行一眼前一亮，似乎這個(gè)問題令他十分欣喜，他磕磕巴巴地說了一大堆專業(yè)用詞，令人不明覺厲。 最終，他大概是看出來眼前幾人都不是專業(yè)人士，就簡單地解釋說：“是偏向自動(dòng)化管理方面的。” “自動(dòng)化管理……”牧嘉實(shí)說，“所以最終它才會(huì)成為窄樓的管理者？” 沈云聚皺著眉：“我怎么覺得這個(gè)程序更傾向于工業(yè)生產(chǎn)方向的？而不是……組織結(jié)構(gòu)意義上的管理。” 他們再一次看向梁行一。 梁行一又用各種專業(yè)名詞努力解釋著一切，但是顯而易見的是，他無法令三名任務(wù)者明白這個(gè)人工智能究竟有什么用。這太過于專業(yè)了。 牧嘉實(shí)語氣冰冷地說：“我們正在浪費(fèi)時(shí)間。” 梁行一被他的語氣嚇到了，一時(shí)間瞪大眼睛，不知道應(yīng)該做什么好。 沈云聚想了片刻，終于還是把自己一直以來困惑的問題問了出來：“你制作的這個(gè)人工智能……可以關(guān)閉嗎？” “關(guān)閉？”梁行一嚇了一跳，“為什么要關(guān)閉？” 沈云聚看了牧嘉實(shí)一眼，而牧嘉實(shí)似乎也反應(yīng)過來了，若有所思起來。 沈云聚面不改色地糊弄著梁行一：“梁知一在未來沒有醒過來，而人工智能一直占據(jù)著主導(dǎo)。你只是將人工智能和你哥的大腦連接了起來，并不代表他們就是一體的，對吧？” 梁行一張了張嘴。 但是不等梁行一回答，沈云聚就繼續(xù)說：“所以，如果關(guān)掉人工智能，那你哥哥說不定就能醒過來了。” 梁行一像是有點(diǎn)反應(yīng)不過來，他呆呆地看了沈云聚一會(huì)兒，然后艱難地說：“有……有辦法。” “什么辦法？” “那個(gè)程序。”梁行一說，“在一開始的設(shè)定中，這個(gè)人工智能是沒法被關(guān)閉的，除非找到它的源代碼。 但是你們……你們可能找不到。源代碼在我這里。你們是從未來回來的…… “總之就是，一開始是不可能的。但是后來我在繼續(xù)完善它的代碼的時(shí)候，我只是為了……我制作它，只是為了讓我哥醒過來。 “如果我哥醒不過來，那么這個(gè)人工智能也沒有存在的意義了。” 他黯然地說。 三名任務(wù)者彼此交換著眼神，似乎都意識(shí)到了什么。 牧嘉實(shí)問：“嘗試喚醒你哥，失敗到一定次數(shù)之后，人工智能會(huì)自動(dòng)關(guān)閉？你是這個(gè)意思嗎？” 梁行一沉默了很久，然后緩緩點(diǎn)了點(diǎn)頭。 他說：“沒有人知道這一點(diǎn)。我沒有告訴任何人。” 沈云聚輕輕抽了一口氣，在意外于真的有關(guān)閉人工智能的辦法的同時(shí)，又感到一種極端的憤怒。 窄樓的人工智能會(huì)失效——遲早會(huì)。 那么那些生活在這個(gè)人工智能的庇護(hù)下的人類呢？他們怎么辦？ 梁行一憑什么做出這個(gè)決定？他知道這個(gè)人工智能即將成為窄樓的管理者嗎？ 他知道他的這個(gè)決定可能會(huì)間接害死窄樓中無數(shù)的人類嗎？ 盡管只是一個(gè)游戲的設(shè)定，但是沈云聚卻感同身受，甚至察覺到了一種奇怪的悲哀。 梁行一已經(jīng)瘋了。因?yàn)樗偭耍运艜?huì)做出這樣的決定。 當(dāng)他決定，如果他哥醒不過來，那么人工智能也將不復(fù)存在的時(shí)候，他其實(shí)已經(jīng)不會(huì)再去顧慮其他人的安危了。 他不會(huì)再去思考，其他人會(huì)因?yàn)檫@樣的決定而陷入怎樣的災(zāi)難之中。 他失去了同理心。 而梁行一為什么會(huì)瘋掉？他的瘋狂是因?yàn)樗救说囊庠竼幔? 不，并不是。是因?yàn)槟┤铡? 在正常情況下，的確有一些人會(huì)因?yàn)榉N種原因，比如心理疾病或者生理性的病變，導(dǎo)致心理狀況出現(xiàn)極端的異常，最終害人害己。 但是在末日之后，這樣的情況變得很多很多，多到整個(gè)社會(huì)都陷入了混亂之中。 比如那個(gè)迷宮中的背叛者。他背叛全人類究竟是為了什么？ 他究竟出于何種理由才會(huì)做出這樣的舉動(dòng)？這一點(diǎn)連他的老師都無法理解。 所以，當(dāng)瘋狂在人類中蔓延的時(shí)候，人類的未來命運(yùn)就好像已經(jīng)注定了。 一個(gè)注定會(huì)被關(guān)閉的人工智能，居然成為了人類的守護(hù)者。這真是一件絕無僅有的滑稽事。 牧嘉實(shí)微微閉了閉眼睛，然后問：“多少次？失敗多少次之后，它會(huì)被關(guān)閉？” “一千零二十四的一千零二十四次方。”梁行一慢吞吞地說，“這么多次的失敗之后，人工智能就會(huì)自動(dòng)關(guān)閉。” 牧嘉實(shí)的嘴角抽了抽。 這讓他們怎么去驗(yàn)證人工智能到底已經(jīng)失敗了多少次？這完全就是一個(gè)天文數(shù)字！ “沒有手動(dòng)關(guān)閉的辦法。”梁行一還在說，似乎遲鈍地忽略了牧嘉實(shí)的怒火，“除非……” 第(1/3)頁