【希望之聲2020年7月3日】（希望之聲記者張鑫綜合編譯）自動駕駛技術的初衷，是通過減少人為過失（造成事故的主要原因一），而降低交通事故和死亡率。但你能想象到，無人駕駛技術也會牽扯到倫理道德的問題嗎？

假設場景與程序編寫

在美國TED網站中，有一個點擊量超過120萬的視頻。討論這樣一個假設場景，一輛無人駕駛車正在高速上飛馳，它的前面是一輛滿載卡車，兩邊也都是車。突然，一個巨大且沉重的物體從它前方卡車上掉下來， 無人車來不及剎車。

那這時，自動駕駛車是繼續前行，撞在掉下來的物體上（因為這有可能導致車毀人亡）？還是往左偏，撞向左邊的一輛 SUV？或撞向右邊的一輛摩托車？

在這一刻，自動駕駛車該怎麼做？其實，這個決定在編寫自動駕駛程序時，早被編程者設定好了的！那誰來做這個判斷？誰來決定編寫程序的標準呢？

高科技與倫理道德需求

這就是在科技界，目前出現的關於「無人駕駛倫理道德」的研究論題。學者們希望這個話題能引起人們的警覺，從而能讓民眾、社區一起參与到政府的立法中去。

利亞德·拉萬（Lyad Rahwan）是最早將「自動駕駛技術」與「道德困境」話題相結合的科學家之一。他在TED演講中，不僅重點討論了這個話題，同時還提到了艾薩克·阿西莫夫（Isaac Asimov）的「機器人三大定律」和第零條定律：「機器人不能傷害人類這個整體」。^[1]

我們不禁很好奇，無人駕駛技術、AI人工智慧與倫理道德有什麼關係嗎？科學家們為什麼會在研究這個問題？

缺乏道德基礎的高科技，對人類是極其危險的

表面上看，現代科技可以幫助人們改善生活條件，給人們帶來諸多便利。但當科技發展到一定程度，尤其是建立在缺乏道德基礎的高科技，對人類來講是極其危險的，是人類生存的最大危機！

在一個科幻短片《 The Seven Days of A.I.》中，勾勒出了AI 在人類中的七日擴張圖。

• AI先在人們生活的多媒體中出現，並得到了Google、Facebook和Microsoft等多個技術重量級公司的支持。

• 從儲存的數據中開始學習，AI可以做出決策了。接下來，它廣泛地被應用到人們的衣食住行等社會各個方面。

• 很快的，AI具備了自我意識，具備了像人類一樣的「思考」甚至「感覺」能力，與每個用戶建立了獨特關係。一旦具有自我意識，AI將擁有自我保護等一些想法。

• 再發展下去，AI會讓人類在網路上，自己上傳自己的思維，放棄自己的身體…..

這個科幻短片以非常生動的方式，預測了一下不久的科技未來。但這些真的只是科幻嗎？

也許任其發展，那AI會完全輕易的超越人類智慧，並制定出精心設計的方案超過和取代人類。如果當人真的將自己的思想與它們連上，並放棄自己的身體后，也許AI就會乘虛而入，佔有了人類的身體…

其實，我們大家多多少少都能感知到，這些AI、以及製造它們的始作俑者，總給人一種總是冷冰冰的感覺，它們不具有人與人之間的那種溫暖關愛的感覺。難道，它們真的就是那些與正常人類完全不同的外星物種？

業內人士的擔憂

「當電腦資源增加，系統將自然地發展，從刺激反應，到簡單學習，到情景記憶，到思考、推理、自我提升，最後完全理性化。」……「目前的電腦基礎設施，對具有這種能力的無約束系統的控制能力是脆弱的。」 ……這是電腦科學家奧姆亨卓（Steve Omohundro）在《人工智慧實驗與理論》期刊（Journal of Experimental & Theoretical Artificial Intelligence）發表的文章。

科學家們都在擔憂，也許有一天，當人類試圖要把這些無法控制的電腦和系統關閉時，它們卻將自動啟動，以確保自身的存在，那時人類將面臨被毀滅的的厄運中。

與科學家斯蒂芬·霍金一樣，埃隆·馬斯克（Elon Musk）－－這位我們熟知的SpaceX 和 Tesla公司的掌門人多次公開呼籲：「AI 是人類文明生存的最根本（頂級）風險。」 ^[2]

他曾多次警告，「我認為我們應該對AI要非常小心。 我們生存最大的威脅是什麼，如果讓我說，那可能就是這個（AI）了！ 因此，我們要非常小心。」 ^[3] 2018年，他憂心忡忡：「現在已經太晚了」^[4]，「我們將控制不了它們」。^［5］

退一步審思

回到開篇的問題，在自動駕駛車輛技術推向人類社會時，大家可能還沒有意識到，編寫程序與道德困境問題之間的關聯，那其它領域AI 技術的極速擴展，又有多少人能意識它背後的巨大風險呢？

也許，人類需要的不是這樣充滿危險性的高科技。也許，當人在克服自身的貪婪、懶惰、自私和狂傲后，在對生命充滿關愛的平和心態下，所發展的技術是更有益於我們身心健康的。

其實，這些問題的答案，在《轉法輪》這本書的開篇就已經非常明確的指出來了，感興趣的朋友們，不妨可以去閱讀和體悟一下。

參考資料

[1] Lyad Rahwan. 無人車的道德評判標準是什麼？

[2] NGA 2017 SUMMER MEETING

[3] Elon Musk: artificial intelligence is our biggest existential threat. Theguardian

[4] It's Already Too Late – Elon Musk

[5] Artificial Intelligence: Mankind's Last Invention

本文章或節目經希望之聲編輯製作，轉載請註明希望之聲並包含原文標題及鏈接。

• 松果體是否在告訴人類我們對於什麼是「感知」的理解太狹隘了？ 科學家發現即使是在體外培育的「人類松果體類器官」都有感光細胞，這是否在告訴人類這個小小的器官裏面居然安排了感光細胞，這會是偶然或者是退化的結果嗎？ 請看《旭思堂》松果體特別企劃的第二集。
• 科學家用一個假病騙過了所有AI
• 人在睡覺的時候，大腦為什麼會做一些亂七八糟的夢？科學家是這樣說的
• 美國之音專訪NASA首席探索科學家傑克·布利徹
• 密大博士后跳樓，敵對審訊還是畏罪自S？美第九位頂尖科學家死亡，神秘模式蔓延。烏克蘭女子被殺案翻轉，司法部震怒！ 科學家 王丹豪 烏克蘭難民 | 新視野 第2287期 20260410

• 🔥免費PC翻牆、安卓VPN翻牆APP
• 🔥靈魂之謎|中華文化|治國大道

原文鏈接：「無人車的道德評判標準是什麼？」， 科學家們為什麼在討論這個？