LaMDA出现自我意识？谷歌表态耐人寻味瞭望智库2022-08-1811:25发表于北京今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。事实上，“AI（人工智能）是否拥有自主意识"一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
LaMDA 出现自我意识？谷歌表态耐人寻味 瞭望智库2022-08-18 11:25发表于北京 今年 6 月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型 LaMDA 出现自 我意识。他认为，拥有七八岁孩童的智力，并相信 LaMDA 正在争取自己作为 一个人的权利。 LaMDA 是谷歌去年发布的一款专门用于对话的语言模型，主要功能 是可以与人类交谈。 为佐证观点，勒莫因把自己和 LaMDA 的聊天记录上传至互联网。随 后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支 持勒莫因的观点。 事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌 工程师和 LaMDA 的故事，再次引发讨论。人们想知道：人工智能技 术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是 什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
参会者在第六届世界智能大会上参观（2022年6月24日摄）赵子硕摄／本刊文于雪魏雨虹《瞭望》新闻周刊记者本文转载自微信公众号"瞭望”（ID:OutlookWeekly1981），原文首发于2022年8月16日，原标题为《辨析人工智能自主意识》首刊于《望》2022年第33期。1人工智能自主意识之辨勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去
参会 者在第六届世界智能大会上参观（2022 年 6 月 24 日摄） 赵子硕摄 / 本刊 文 | 于雪 魏雨虹 《瞭望》新闻周刊记者 本文转载自微信公众号“瞭望”（ID:OutlookWeekly1981），原文首发于 2022 年 8 月 16 日，原标题为《辨析人工智能自主意识》，首刊于《瞭望》2022 年第 33 期。 1 人工智能自主意识之辨 勒莫因认为 LaMDA 具有意识的原因有三：一是 LaMDA 以前所未有的方式高 效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达 内省和想象，既会担忧未来，也会追忆过去
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在千什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。被誉为"计算机科学与人工智能之父"的艾伦·图灵，早在1950年就曾提出图灵测试一一如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。当前随着技术的发展，已经有越来越多的机器能够通过图灵测试
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为 LaMDA 所 基于的 Transformer 架构能够联系上下文，进行高精度的人类对话模 拟，故能应对人类开放、发散的交谈。 至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示， 对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。 清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我 们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你 对它输入内容，它只是依照程序设定进行反馈。” 中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上， 人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多 还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是 否具备意识的原因。 被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在 1950 年就曾 提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出 其机器身份，那么可以称这台机器具有智能。 这一设想随后被具化为，如果有超过 30%参与测试的人以为自己在和 人说话而非计算机，就可以认为“机器会思考”。 当前随着技术的发展，已经有越来越多的机器能够通过图灵测试
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。段伟文表示，自前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。“段伟文说。不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲急，能不能想到要为人类煮一杯咖啡？“段伟文说
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周 刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与 人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意 识。 段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识， 一种以人类意识为参照，另一种则试图对机器意识进行全新定义。 若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在 阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们 会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等， 是分散的单一元素。”段伟文说。 不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全 局中思考，作出符合全局利益的决策。 若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要 明白意识的本质是什么。 段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立 的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的 内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所 做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察 到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。“换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把意识这个词换成功能，我会觉得更加准确。“2技术换道有专家提出，若要机器能思考，先要解决人工智能发展的换道问题据了解，自前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在， 即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主 意识尚未有定论。“以 LaMDA 为例，虽然能够生成在人类看来更具意 义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在 数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对 话的意义。” 换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判 断，但这主要应用的是自然语言处理、计算机视觉等技术。 郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得 比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’ 这个词换成‘功能’，我会觉得更加准确。” 2 技术换道 有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。 据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触 及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围 棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没 有相应增长