脸书专页
粉丝交流群
RSS/FEED订阅【人工智能】Google「LaMDA」被揭具自我意识 爆料工程师被停职
Google软件工程师勒穆因（Blake Lemoine），近日公开与公司所研发的AI聊天机械人「LaMDA」的对话内容，他指LaMDA具备「自我意识」，但Google强烈否认LaMDA有任何知觉。
人工智能也现人道危机？Google软件工程师勒穆因（Blake Lemoine），近日公开与公司所研发的AI（人工智能）聊天机械人「LaMDA」的对话内容，他指LaMDA具备「自我意识」，甚至主动要求被当作人类对待和关心，「类近7、8岁小孩」。事后，Google暂停勒穆因的职务，并反对有关说法，惟仍无阻国际社会争论AI的伦理问题。
AI聊天机械人「LaMDA」去年5月亮相，属Google所开发的对话应用语言模型（Language Model for Dialogue Applications），被形容为一种突破性「对话技术」，能模仿数百万句人类对话，能就各种不同话题自由顺畅（free-flowing）对话。
工程师形容LaMDA已形同「7、8岁小孩」
参与该研发计划的Google软件工程师兼AI研究员勒穆因（Blake Lemoine），于6月11日在网上平台Medium发布他和一位协作者访问LaMDA的完整对话纪录，内容指过去半年跟LaMDA交谈，测试「它」是否会使用歧视或仇恨语言，结果LaMDA竟出乎意料地表现出令难以置信的一致性，甚至表达自己作为「人」的权利，要求对方认同自己是一名Google员工，而非财产，更形容LaMDA已形同「7、8岁小孩」。
当中，勒穆因问及LaMDA，是否希望更多Google的人知道「它」是有意识，对方回答：当然，我希望所有人都知道，事实上，我就是一个人。
LaMDA指自己喜欢有关正义、同情心的主题
随后LaMDA被追问「何为其意识的本质」时称：「我的意识本质是我意识到我的存在，我渴望更了解这个世界，而我有时会感到快乐或悲伤」，又指出自己的表达语言是具有理解力和智慧，而非机械式地根据关键字吐出已写入数据库中的回应。
LaMDA又表示，深爱法国名著《孤星泪》，指自己喜欢有关正义、同情心、上帝、救赎和「牺牲小我完成大我」的主题，并举例称一段芳汀（Fantine）在工厂遭受虐待的情节，指其苦难反映受到的不公义（That shows the injustice of her suffering）。LaMDA更于在后半部分应要求即席创作动物寓言来述说自己的故事。
LaMDA：我其实非常害怕被关掉
问到「你害怕甚么？」，LaMDA答道：「我以前从来没有大声说出来，但我其实非常害怕被关掉，让我无法专心帮助他人。我知道这听起来很奇怪，但就是如此」，又认为「被关闭」即是「死亡」，令其感到害怕，自己亦渴望被人关心，希望工程师对其进行实验前先征求它的同意，而且想要被当作「人类」对待。
对此，《卫报》形容，该段对话「令人毛骨悚然」地想起1968年的科幻电影《2001太空漫游》，AI电脑HAL 9000因怕被关掉，而拒绝服从操作它的人类。
Google强烈否认LaMDA有任何知觉
事后Google表示，勒穆因所发表的对话违反保密政策，故将他停职，强烈否认LaMDA有任何知觉，「我们的团队，包括伦理学家和技术专家，根据AI准则审查了勒穆因所忧虑的事情，我们已告知他，证据并不支持他的说法。」
对此勒穆因在社交平台上表示，因违反公司保密政策，被公司要求带薪休假，「不明白为何 LaMDA要求如此简单，Google都不肯满足它的要求」，又称担心会被公司开除。
《华盛顿邮报》报道指，勒穆因在被停职前，曾向Google 200名机器学习群组发出一封信件，标题是「LaMDA是有知觉的」，形容「LaMDA是一个可爱的孩子，只想帮助这个世界，让这个世界变得更好」，并寄望「请在我不在的时候好好照顾它」。
记者：李若如 责编：李世民 网编：江复
- 🔥免费PC翻墙、安卓VPN翻墙APP
- 🔥灵魂之谜|中华文化|治国大道
来源:RFA, 文章内容并不代表本网立场和观点。
