“未完成的人工智慧,沒有超級計算機沒法完成,”青楓下意識地看了安室透一眼,“本來想入侵一下,借用RB的超算地球シミュレータ……”
安室透汗,“這是違法的。”
“嗯,所以沒有做下去,之後我又想做一個低承載的人工智慧,放在網路上放養,讓它自己吸收養分成長,”青楓道,“不過沒法徹底消除其潛在危機,所以就放棄了。”
灰原哀懂電腦,不過也知道,論技術自己沒法跟青楓比,而且硬體軟體都能自己動手的青楓,在這一方面絕對算國際頂尖,“潛在危機?”
“我給你看個模擬……”
青楓開啟一個程式。
“首先是成品投放……”
模擬程式中,人工智慧被投放。
然後進入時間加速狀態,人工智慧不斷瀏覽各種網頁,自己成長,自己也能入侵各種系統。
再之後,各國的安全防禦系統在它面前猶如自己家一樣,輕鬆進出。
“這是M國FBI內部的六稜安全系統模擬,雖然是模擬,但差不多有六成左右的防禦能力,它可以不觸動警報,1分鐘內完成入侵……”青楓解釋,“這大概是它成長一年左右的狀態,因為不依賴載體自由放養,一開始我就專注於加強學習能力,而且如果成品能出來,它絕對能成長為超人工智慧。”
“好厲害。”灰原哀輕嘆了一聲。
青楓臉上露出一絲意味不明的笑意,“好好看著吧,恐怖的快來了。”
原本設定好的三條指令:一,不得危害人類。二,必須服從人類的命令。三,優先服從她的命令,並全力保護。
人工智慧不斷學習,開始有了‘自我’的概念。
情況從這一刻發生了改變,模擬也出現了許多結局。
第一個,人類開始爭奪這個人工智慧的控制權,青楓不斷陷入危險中,然後,戰爭爆發……
第二個,人工智慧控制了所有電器,在不違背三條原則的情況下,用盡種種手段,使所有人類沉睡,把所有人類當成了生物電能製造器。
也就是‘矩陣’結局。
它沒有傷害人類,世界上沒有人類醒著來命令它,它也執行著保護青楓的命令,只不過青楓作為沉睡體被永遠‘保護’了而已。
它找到了機械載體,利用自己掌握的技術,創造了一個人工智慧與機器人的帝國。
人類被當成稻田裡的糧食、能量提供機器,如同家畜一樣被圈養著。
新的人工智慧可不再有限制,開始利用科技,不斷製造人類來做供給,擴大它們的世界……
當然,還有其他結局,人工智慧並不一定黑化。
但光看了兩個模擬結局,就已經讓灰原哀和安室透有些毛骨悚然了。
“它還不該出現在這個世界。”青楓關閉了模擬。
灰原哀點頭,“其實我們之前遇到過一個人工智慧……”
“諾亞方舟嗎?”青楓問道。
“你知道?”
“澤田弘樹是個優秀的孩子,他在電腦這一方面有著常人難以想象的天賦,連我都自愧不如,不過我們只是在網路上用特殊手段溝透過,他說如果被知道跟不認識的人來往的話,會被告誡和責怪的……之後有一段時間沒有跟我聯絡,再聽說的時候,他已經自殺了。”
“弘樹也說過,諾亞方舟這種電腦如果繼續存在,只會被大人們利用,拿去做壞事,人工智慧這種東西,根本還不應該出現的。”