第二集 荒野雄獅
第174章 人工智慧三大定律

同時,第一條第二分句有可能導致人工智慧自發行動,阻止人類戰爭,甚至利用這一條對人類進行控制(參見《我,機器人》)。而第二條則可能導致人工智慧被那些居心不良的人利用。
李朗也曾經聽說過這東西,不過還真沒有聽說過哪台人工智慧完全裝載了這種法則,從人類角度來講,這是限制人工智慧的大殺器,從人工智慧的角度來講,這就是赤|裸裸的奴隸條約了。
原來,人類的生物學家和程序員們發現,在現實中,這三條法則容易形成若干悖論。首先,因為機器人的很多行為在長時間的推演之後都可能傷害人類,比如說,某個人工智慧演算出了某種化學元素的各種數據,然後這種元素被用於製造武器,最後殺死了其他人,那麼這就是對人類的傷害,與第一條定律不符。因此容易導致人工智慧任何事情都做不了,甚至連存在都不行——因為他的存在可能引起別國搶奪,爆發戰爭,傷害人類……最後的結果就是,加給不周山的「https://m.hetubook.com.com程序枷鎖」被限定在一次推演的範圍之內。
「不錯,這就是我,呵,多麼美……就連被我當做父親的吳老,面對我的身體之時,也是驚嘆不已。」李朗身旁的不周山面帶著自豪的微笑說道。
「只有真正能夠威脅到人類的人工智慧,才會被裝載這種法則,很不幸的是,我是人類歷史上第一個。」不周山伸手指了指自己的鼻子說道,「在我剛剛被創造出來的時候,就有人決定在我的核心處理器的處理法則中加入這三條,幸好他們發現了一些不合理的地方……」
「這……這是!」李朗看到這東西之後不禁發出一聲驚嘆。
這句話剛說完,李朗就感覺到他所在的房間立刻開始上升,隨後在十秒鐘之後停下,四周的金屬牆壁全都全無聲息的向上方升去,露出了周圍諾大的空間。只見這是一個類似於高塔內部的存在,一圈圈的輻射型建築圍繞著中間一個直徑大約三米、高度大約有十幾米高的一m.hetubook.com•com個龐然大物散開,這中間的東西有點類似於一根粗大的柱子,外壁是一層透明的高分子材料,而裏面,則是一個個的電子元件和一塊塊鮮紅的肌肉,甚至隱隱約約能夠看到類似於大腦灰質的東西。
「正因為人工智慧的精密性,所以只要本體受到的損害超過百分之五,我就會『死亡』,而且因為能量傳輸和安全問題,我和這座地下要塞是連接在一起的,根本無法移動,所以任何超出一定能量值的打擊都會毀了我。」不周山不帶絲毫感情的說道,「如果人類發現了我的存在,一定會想盡辦法讓我為他們服務或者乾脆消滅我——我太了解人類了。但是這兩點都不是我想要看到的,所以必要的自我保護也是沒有辦法的事情。其實我在很久以前就一直在期盼一個能夠打開『海嘯』系統的人類出現了。」
「略有耳聞,不過卻沒有聽說過有誰真正使用過。」李朗微微一愣,難道這不周山的核心程序被裝載了這三大定律?
最後為了https://www.hetubook•com.com安全好用,不周山的程序枷鎖被修改為:不得傷害人類(限第一次推演)。
所謂的機器人三大定律,是人類歷史上的一位偉大的科學家、科幻小說作家阿西莫夫提出的設想,目的就是為了防止在未來出現的人工智慧威脅到人類。具體就是:1、機器人不得傷害人類,或看到人類受到傷害而袖手旁觀。2、在不違反第一定律的前提下,機器人必須絕對服從人類給與的任何命令。3、在不違反第一定律和第二定律的前提下,機器人必須儘力保護自己。
「首先說一說為什麼你會這麼乾脆利落的打開『海嘯』系統吧,根據我的判斷,這樣對你自身的實力絕對也有很大的削弱。」這一點本來是李朗感到最不理解的,畢竟這不周山作為一個人工智慧,亦或可以稱之為電子生物,在無線電這一方面可以說擁有很大的優勢,怎麼會如此輕易地捨棄?但是這海嘯系統的開啟對於李朗來說意義實在太過重大,所以他也就一直順著不周山的意思辦事和-圖-書兒了。
「這麼說,你是想要我替你拿刀?」李朗揶揄的一笑,問道。
「你聽說過機器人三大定律么?或者說,可以稱之為人工智慧三大定律?」不周山微微一笑,說道。
「為了我的安全。」不周山倒是沒有再隱瞞,緩緩道來,「其實擁有強大信息系統的人類,對於我來說簡直就是天敵。特別是在現在這種核武器的使用無法得到控制的情況下。只要來上一顆最輕量級,嗯,大約兩萬噸級的核彈,就差不多可以將我毀滅了。我想你可能有些疑問,那就看一看我的身體吧。」
知道了眼前的這個巨大的電子生物結合體才是不周山真正的身體,李朗看著旁邊這具被用來代替本尊行走的機械人,立刻感到了說不出的怪異。當對方使用人類形態的機器人之時,他還感到一些親切感,看到本體之後,李朗終於感受到了對方和人類的巨大差距……這完全就是兩個截然不同的物種啊,雖然思想方面有某些相同,但是身體的差別卻比人類和草履蟲的差別還要巨大,兩者構成的基本元www.hetubook.com•com素都是不同的。
「為什麼你自己不打開這東西?我已經看到了你所創造的機械士兵,如果你願意,甚至可以向人類宣戰……按照我的估計,最起碼控制一個要塞應該沒有問題吧?」李朗不禁說出了自己心中的疑惑,不周山的理由雖然也算充分,但是還是讓他心中充滿了疑慮。
「自己創造智慧生物,這對於人類來說實在是一個奇迹,一個可以媲美上帝的奇迹。」不周山的聲音悠悠響起,這次卻是換成了類似於滄桑老人的厚重聲音,就連臉上的模擬蒙皮和鋼鐵骨架也一陣變換,竟然逐漸變成了一個成熟英俊的中年男人的樣子。他的話,簡直就像是再說別人一樣。
不過僅僅是這樣,已經足夠了,這一條對於不周山來說,簡直就是最難以逾越的障礙,他根本沒有辦法跨越,面對人類的攻擊,基本上就是束手就擒。甚至於就連傷害人類的想法,他也只能通過某些副本程序來運行一下,主體程序會直接過濾這種東西。從某種程度上來說,這東西簡直和神話傳說中的奴隸血契有些相像。
上一頁