| |
概述：現代生活，人們用遙控器控制著各種各樣的機器，如果有一天，我們創造的機器不再聽從遙控器的指揮和控制，而是有了自己的思維和情感，我們該如何面對它們呢？電影中機器人與人類的爭鬥會不會在現實中上演呢？
主持人：在上期節目裏，我們和大家一起探討了智慧機器人是否有可能發展出獨立的意識。在電影《變人》中，機器人安德魯被馬丁一家作為家務機器人購買，他的程序只設置為完成僕人的任務。但沒過幾天他們發現安德魯並不是一個尋常的機器人，因為他開始體驗情感和創造思維。在一個跨越了兩百年的故事裏，安德魯慢慢領會了人性的錯綜複雜。而在影片一開頭，安德魯就向我們演示了著名的機器人三大定律。
所謂的機器人三大定律，其實是美國著名科幻作家艾薩克 阿西莫夫在他的系列小説《我，機器人》裏為機器人設定的規則，這個定律是這樣説的：首先，機器人不得傷害人，或任人受到傷害而無所作為；第二，機器人應服從人的一切命令，但命令與第一定律相抵觸時例外；第三，機器人必須保護自身的安全，但不得與第一、第二定律相抵觸。
宗光華：在1940年的時候，阿西莫夫就提出三原則，實際上他就是想把這個事情從哲學的角度，把人和機器人的關係，把它界定好。但是任何一個技術，我覺得都有它的兩面性，我覺得機器人是同樣的。
在《變人》中人類生活中到處充滿機器人，每個家庭都擁有機器傭人，機器人嚴格遵循三大定律，人們也對此習以為常。
| |
在影片《變人》裏，包括安德魯在內的所有機器人管家都必須嚴格執行“機器人三大定律”，它們在我們的生活裏極其普遍，並且，由於“機器人三大定律”保障，這些機器人顯得非常安全。人們似乎完全不用再擔心機器人失控的問題。機器人三大定律，這個廣為流傳並且合情合理的概念，在許多觀眾的心目中就是設計機器人的原則，而在我們的真實生活中，真的是這樣嗎？
鄭軍：阿西莫夫機器人三定律，是他小説中的邏輯，並不是現在人工智慧真正遵循的東西，因為現在的機器人，根本談不上去危害人或者保護人，它不僅不能危害人，甚至不能保護人，它只是在自動工廠裏面去焊接零件。
劉慈欣：三定律的前提是人工智慧已經達到一定的高度，有可能失去人的控制，像現在的機器人它不可能失去人的控制，它那個很呆板，更多的表現的是愚蠢。但是阿西莫夫他的科幻小説裏面的機器人，已經達到了一個相當的高度，正電子腦，反正他一句話帶過去，以後是有了相當的智慧，所以他就提出了限制機器人的三定律。
主持人：雖然我們現在的機器人主要還是以它們的功能性為第一目標，還沒達到需要遵循機器人三大定律的程度，但是，科幻的魅力就在於它能夠把未來的種種可能性展示給我們看，而許多曾經的科學幻想在如今都已經變成了現實，以我們現在的人工智慧的發展速度，其實真的很難説，電影裏的場景就不會發生。很有可能，在不久的將來，我們就真的需要類似于機器人三大定律這樣的東西去規範人和機器的關係了。但是，我們可以看到，在許多的科幻電影裏，機器人顯然都違反了這些規範，那麼，既然它們是按照這些規範被製造出來的，它們的職責都是以保護人類為前提，為什麼到最後都會背叛人類，甚至反客為主，成為人類的統治者呢？
2004年，根據阿西莫夫的著名小説《我，機器人》改編的同名電影在中國上映，在這個發生在公元2035年故事裏，美國的某個機器人公司開發出了一種超能機器人産品，他們的外形酷似人類，從保母、廚師、快遞、遛狗到管理家庭收支，幾乎無所不能。而且，這些機器人的存在，首先要接受的就是由人類制定的“機器人三大安全法則”。
但是，人們深信不疑的“三大安全法則”在影片中卻受到了空前的挑戰，按照安全法則製造出的機器人與人類之間發生了激烈的衝突，機器人們完全不受人類的操縱，整個城市頃刻間被它們所控制。這一切讓人們困惑不已。而機器的回答更是讓所有的人都大吃一驚。
在影片裏，新一代的超級電腦XXX負責控制所有新型NS-5型機器人的製造，具備高級智慧的它認為：國家發動戰爭，人類摧殘地球，人類正在危害自身安全，機器人要拯救人類，就必須保證人類的持續生存發展。而要達到這個目的，只有一個辦法，統治人類。它的行為，正是對機器人三大安全法則的忠實實踐。對於機器的這種辯解，影片中的主人公也是無言以對。而這番話，也的確令人深思。
劉慈欣：這個就不是機器的問題，這是人的問題，人們為什麼要做這麼一個東西。
主持人：老祖宗曾經説過，“自作孽，不可活”，看來我們製造的智慧機器人也懂得這個道理，並且反過來給我們上了一堂課。但是，在我們的科幻電影裏，並不是所有背叛我們的機器人都是有著這麼不得已的苦衷的，在許多時候，失控的機器和我們之間的關係就是簡單的你死我活，這種情況下，機器人三大安全定律顯然已經起不到任何作用了，那麼，我們有什麼辦法去應對這個我們親手製造出來的強大的新生命呢？
| |
電影《終結者》系列講的就是人類和機器的一場殊死搏鬥，在這個故事裏，公元2029年的地球已經由超級電腦“天網”統治，人類幾乎被消滅殆盡。剩下的人類在領袖約翰康納的領導下開始了與電腦的作戰， “天網”為了阻止約翰的誕生，派遣終結者人型機械人T-800回到1984年，去殺死約翰的母親康納莎拉，人類發現了一這陰謀，自願通過時光逆轉裝置回到過去的戰士卡爾雷斯成功地消滅了機器終結者，並與莎拉相愛。而他們是兒子，正是未來的人類領袖約翰。
看來，要對付像終結者這樣的反叛機器人,我們沒有別的選擇，只有消滅它。而在許多的科幻電影中，人工智慧機器人作為一種人造的新生命，它一定會有一些自己無法解決的弱點，例如，它的運行依靠智慧芯片，它的能源可能是來自電力而不是來自有機質，它對電磁干擾會有比較強烈的反應，這些，都在電影裏被人類加以利用。
在電影《2001太空漫遊》裏，一艘太空飛船上的主控電腦為了掩蓋自己的錯誤，將飛船上的成員一一殺死，在它的陰謀敗露以後，宇航員果斷地將它的記憶存儲器關閉了，這個可怕的機器兇手也就喪失了所有的能力。而在《我，機器人》，警察威爾將納米清道夫注入正電子腦的中央處理器，也使得這臺超級電腦在一瞬間癱瘓。
劉慈欣：人既然創造人工智慧，肯定留著一個後門，這個是所有程序員都知道的，即便是人類讓他的超級智慧計算機達到那種程度，這個後門依然存在，我們可以想象，而這個後門可能就是一個開關，或一個什麼病毒程序，我拉掉這個閘的話，它再高級，再怎麼樣，我們是它的造物祖，我們掌握著一些由它自己沒法掌握的那種命脈，我們可以消滅它。
| |
主持人：剛才我們看了那麼多的科幻電影，也想了那麼多的辦法去控制人工智慧，找出了智慧機器的種種弱點，但是，如果我們回頭想一想，和人類比起來，機器人的確有許多的優勢，比如説，鋼筋鐵骨，比如説，長生不老，一個人可能只有100年的壽命，但是一個製作精良的機器人也許過上一千年依然可以順利運轉，再比如，智慧機器高速的運算能力，這些都是我們的身體無法比擬的。那麼，自然會有人這樣想，我們能不能把機器的這些優勢也轉移到人的身上去呢？
在系列電影《機械威龍》裏，莫菲是一位優秀的警官，在一次任務中身負重傷，也許是為了挽救他的生命，也許是為了試驗，他的腦部被移植到了機器人身上，於是這位擁有鋼筋鐵骨的人類警察，從此變成了一個所向披靡、除暴安良的機械戰警。他會不知疲倦地24小時值班，槍法精準，刀槍不入，戰術策略精明，是一個完美的打擊犯罪的機器。像莫菲這樣的人體改造在我們的現實生活中顯然還有很多的困難，目前還不能實現，但是，這個過程卻已經開始。
劉慈欣：這種過程現在已經開始了，有很多人從最簡單的，外面裝的牙齒，裝的金屬骨骼，然後到金屬心臟，甚至現在一步一步還可能裝金屬眼睛，金屬聽力這些。按照這個趨勢下去，很可能人的所有的器官都會被機械器官所代替，最後只剩下一個人的大腦在裏面，最後還有一點，在現在看來是一個很超級的技術，能把人的意識從這個大腦裏面取出來，這個時候，你完全是一個機器，你身上沒有一塊有機組織了，你還是一個人，因為你有人的意識。人的硬體一步一步地機械化，機器的意識也在一步一步地和人的原有的意識相融合，這樣的話，也很可能未來就出現一個人和機器完全融合的這麼一個世界，那樣的話，所有的問題也就不存在了。
主持人：其實在我們現實的生活裏，我們和機器的聯絡正在越來越緊密，而我們設計製造出來的機器，也是越來越人性化了，如果説我們在將來製造的智慧機器人真的高度發展，産生了獨立的意識，與它們和平共存應該説是我們最希望看到的一種情況。而在此之前，怎樣和我們地球上現有的生命和平共存，也許是我們更需要考慮的問題。
責編：走近科學
