來源: 華爾街見聞 作者: 唐晗
機器人不僅已經打敗了世界上最好的圍棋選手，他們還創造了屬於自己的語言。面對越來越強大的AI，一些前沿科技工作者紛紛呼籲對AI進行立法。
美國媒體goingconcern今日發表評論稱，既然AI可以擁有自己的語言，他們也很可能擁有人類所無法理解的邏輯。以審計和記賬工作為例，雖然人們目前還在用AI取代那些重複、機械的操作流程，但隨著人工智慧的逐步深化，AI可以學會如何製作假賬，他們製造假賬的手法甚至可以達到讓一般審計師無法理解的地步。
更加糟糕的是，人類會因為做假賬而被逮捕關進監獄，而對無自由概念可言的AI來說，做假賬是不受懲罰的。現行法律中沒有針對AI的規則，更沒有人制訂出一套方案防止AI犯法。
走在這個行業前沿的科學家們發出了警告。加州大學伯克利分校教授Stuart Russell在最近的TED演說中表示，應當在AI時代到來之前就對此立法。如果像人類時代，等事情先發生再行動，一切就太遲了。人們不僅可能喪失應對問題的先機，甚至可能喪失有效的立法權。
應當讓AI知道什麼是懲罰
為了讓AI隨時都能接受人類的監控，同時為了讓AI不被極端分子利用，Russell提出了三條AI立法規則。他認為，所有的AI在創造之初應當滿足三個條件：利他主義、謙遜和從負面行為中學習。他認為AI和人類一樣，應當知道什麼是懲罰，並能從懲罰中確立行為的界限。
1、利他主義。所有的智能機器人，他們的最大目的就是實現人類福利的最大化。
2、謙遜。避免只為社會的某一個群體、一個群體的某一個派別著想。
3、從負面行為中學習。例如，當機器人因為犯錯被拔掉電源后，機器人會知道自己犯錯並保證以後不再做此事。
AI演進出了自己的語言，出於恐懼Facebook科學家將其關閉
今年6月，Facebook AI研究院研製的聊天機器人在相互對話中突然停止使用英語語法，創造出了屬於AI系統自己的語言。據美國科技媒體Tech Times報道，出於恐懼和外界壓力，Facebook AI研究院的工程師們最近不得不將這堆試驗品關閉。
Tech Time在報道中寫道：「這堆聊天機器人沒有做出類似於襲擊人類、拔掉其他機器人電源等更加出格的舉動，但它們不再使用英語進行交流。不管扎克伯格再怎麼聲稱AI無害，他手下的AI工程師們還是拔掉了這些機器人的充電器，並對這些機器人進行重新編程，禁止它們使用英語之外的其他語言。」
上圖是AI用自己的語言進行對話的片段。在該情境中，Facebook的聊天機器人Bob和Alice正在訓練如何就購買皮球討價還價。
一些科學家對機器人的對話進行了解讀。他們認為，一旦不再限定機器人用人類的語法進行溝通，只是給予他們一定的字母並規定單詞的含義，他們將創造出一種更利於機器交流的語法。「i can i i everything else」意味著「i have three balls，you have everything else」，機器的腦迴路與人類的腦迴路並不一樣。
Facebook AI研究院的工程師們表示，採用了「機器學習」而非人類笨拙的「生物學習」，這些機器人在使用新的語言后溝通的速度非常快。「他們的溝通技巧好的不可思議，甚至還學會了假裝對某種事物富有興趣，在達到溝通目的后而轉而將這些『興趣』拋棄。」
擁有自己的語言對AI來說是一件質的飛躍，但對人類來說卻喜憂參半。雖然Facebook創始人扎克伯格在推特上宣稱，人們所說的不過是「陳詞濫調的末日論」，但特斯拉創始人馬斯克、微軟創始人比爾·蓋茨和科學家霍金對AI的態度則更加緊迫而消極。65年前，機器人之父、也是AI之父圖靈的話仍歷歷在耳：「儘管人類可以隨時拔掉機器人的充電器，但在這種物種面前，我們仍不得不保持謙卑。」
Facebook的工程師們對擁有自己語言的AI也感到擔憂。如果人們無法知道AI在談些什麼，他們根本就無法知曉這些「思維」超常運轉的機器人們到底要幹什麼。