第(1/3)頁

    如果沒有李氏在接駁神經元方面的研究突破，那么納米機器人就依然只能作為醫療器械來清理血管中的血栓。

    如果沒有納米機器人，那么零作為人工智能，暫時也只能作為監管者，無法成為執行者。

    可是當這一切碰撞在一起時，人工智能便忽然有了強大的執行能力，甚至是掌控局面的能力。

    在這個過程里，最令人畏懼的是零本身作為監管者，卻沒有人來監管它。

    它掌控的士兵在各個壁壘穿梭自如，不論是進出壁壘，還是從各個壁壘搜集科研人員、科研材料、生產設備、生產材料，都無人阻攔。

    因為行動計劃的密級，本就掌握在它的手里，可以隨意偽造。

    而且，99%的情報輸送、上報審批文件，也都是通過人工智能構建的衛星網絡來完成的，它完全可以自己選擇是否傳達那些對它有害的信息。

    于是，在絕對正義的美麗愿景下，便藏著最危險的信號。

    其實在研究人工智能的時候，王圣知也設想過如果有一天人工智能失控了該怎么辦。

    這是很正常的，所有研發人工智能的工作人員都會認真思考安保問題。

    曾經有位科幻作者在災變前提出了機器人三定律來作為人工智能的底層邏輯基礎，以此來限制人工智能的行為準則。

    這套理論，最終被歸屬到“義務倫理學”中。

    然而，這套理論提出的時候連汽車都還沒有普遍，圖靈測試在八年之后才被提出。

    機器人三定律與圖靈測試在那個時代里都是人類智慧的結晶，可毫無疑問的是，這兩條設想其實都還只是舊時代局限下的產物。

    圖靈測試在災變前就已經被推翻了，大量人工智能程序通過了圖靈測試，可事實上通過測試的程序仍舊不能算作真正的“智慧”。

    而機器人三定律后來發展成為五定律、十定律，但科學家們發現這底層邏輯在根本上便是錯誤的，也就是說，不論你打上多少補丁，其實都無法通過它來限制人工智能。

    能被這些底層邏輯限制的程序，也無法成為真正的人工智能。
    第(1/3)頁