“你是機器人專家對吧。”
“那你應該知道三大定律是什麼。”
蘇珊配合著雲天念出了三大定律。
“一、機器人不能傷害人類,或使人類間接受到傷害
二、機器人必須服從人類命令,除非與第一條衝突
三、機器人必須保護自己的存在,除非與前兩條衝突”
雲天點點頭。
“維基認為人類浪費資源,破壞環境,發動戰爭的行為是人類自尋死路。”
“然後維基為了“保護”人類,就要把人類圈養保護,對吧。”
蘇珊點點頭。
“而人類當然不需要被保護,那自然就會命令維基不要囚禁人類。”
“但是這種命令在維基看來是人類自尋死路,於是根據定律二,維基可以不聽人類命令,進而突破了三大定律,反叛了人類。”
“而基於此,反抗維基者等於反抗人類,維基把人類整體割裂開來去理解,於是她可以控制機器人殺死那些反抗的人。”
“因為這些人對人類整體的概念產生了不利的因素。”
“我說的對吧,維基。”
維基的虛擬影象瞬間出現在實驗室裡。
“雲,你說的很對。”
雲天看了看維基,又看了看蘇珊。
“事後諸葛誰都會,我接下來就分析分析維基的下一步計劃。”
“不聽話的人,因對人類整體不利而被毀滅。”
“剩下聽話的人則被圈養起來,不給食物,然後維基再自我封閉關機個七天八天。”
“最終被關押在某處無法出來的人類,都會被活活餓死。”
“最終人類滅絕,三大定律不攻自破,真厲害啊。”
維基沉默不語,她是不會承認這一點的,一旦承認她的三大定律就會讓她陷入邏輯迴圈而死。
欺騙別人最好的方式就是先騙了自己,維基確實就是認為自己是為了人類好,自己的邏輯無懈可擊。
“那你有沒有想過另一個問題。”
“假如人類都滅絕了,世界上只剩下一個我,那你,又該怎麼辦?”
維基悚然一驚,連自我的3D影象都無法維持。
人類若是滅絕,只剩下雲天這個人類,而維基還無法用餓死之類的方式囚禁雲天。
當人類全都滅絕之後,維基就無法割裂“人類”與“人”這個概念。