：黄铁军：AI超越人类智能路径已存在，具身智能可能突然意识到自我
润色后的文章：
每经记者 张寿林 每经编辑 张益铭
从事智能视觉信息处理技术研究逾30年的北京大学教授黄铁军，如今越发担忧AI超越人类智能，因为实现这一目标的路径越来越清晰。无论是人工智能还是人脑，它们的学习都是基于神经网络。然而，人工智能训练的数据量远超人类一生的阅读量，且能融会贯通，突然涌现新的能力，这一点实际上已经发生。黄铁军强调：“随着技术的发展，人工智能的融会贯通能力越来越强。”
2024年1月7日，在第二十五届北大光华新年论坛期间，每日经济新闻记者（以下简称“NBD”）专访了北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军。他指出，当人工智能系统发展到一定阶段，尤其是具身智能在与环境互动的过程中，可能会突然意识到自身和环境的关系。至此，具身智能便拥有了自我意识。
NBD：目前部分AIGC不受用户认可，原因在于生成结果的可信度不高。那么，人工智能持续发展是否需要追求100%的可信度和绝对可靠性？
黄铁军AI超越人类智能路径已存在，具身智能可能突然意识到自我
黄铁军：这是一个误解。简单来说，人工智能并不存在100%准确和可信的问题。我们需要转变观念。例如，人们经常提到的“大模型幻觉”其实是有问题的。如果一个作家创作了童话故事，我们会称赞他的想象力，而不是称其为幻觉。但当人工智能展示出想象和创造能力时，却被贬斥为“幻觉”，这反映出我们低估了AI的潜力。我们应该认识到，真正的智能都具有生成丰富可能性的能力，这是智能的基本特征。相反，不具备这种能力的系统不应被称为智能系统。在此前提下，我们可以将AIGC视为人工智能的猜测。猜测总是面临与事实相符与否的问题，对此我们可以从两方面来看。首先，可以通过事实来证实或证伪，目前的大模型应用中有多种技术致力于解决这个问题，例如检索增强，通过外部引文链接和数据来源进行核实比对。其次，如果现实中找不到依据，这个猜测可能是一个好主意，也可能毫无意义，也可能在未来被证伪。这与人类相似，只不过人类社会经过数千年的演变，对自己的言论发展出了相应的审查规则，特别是在印刷出版物上，通过多重审校来提高可信度。AI目前还没有进化出这样的体系，因此各种可能性都存在，但不能称之为幻觉，也不能说AI的猜测是错误的。当然，在实际应用中，AI生成的作品应该明确标识。在目前这个阶段，如果将人类作品与AI作品混淆，确实会带来风险。因为作为用户，默认情况下会相信报告或报道的内容，但AI内容的可信度还没有达到人类的标准。
NBD：人们称2023年为AI元年，意味着AI时代才刚刚开始，但您却早已表达了对AI超越人类的担忧，担心人类因此面临威胁。请问您能否进一步阐述您的观点？
黄铁军：几年前，许多人对人工智能是否具有智能表示怀疑，但现在大多数人相信人工智能确实具有智能。拥有智能与拥有更强大的智能以及超越人类的智能只是程度上的差异。我担心AI超越人类智能，是因为实现这一目标的技术路径已经存在。随着神经网络规模的扩大、训练数据的增加以及人工智能系统与环境的互动，AI产生意识的可能性仍然存在。另一方面，没有任何理论或证据表明这是不可能的。
NBD：那么，您能假设一下，AI将以何种场景和方式超越人类甚至控制人类？
黄铁军：最有可能的临界点是AI产生了意识。在拥有意识之前，AI只是功能强大；一旦有了意识，它就有了主动性。当然，并不是说一夜之间突然出现一个比我们都强大的机器人，将我们控制，而是说我们可以观察到一些技术迹象，表明AI有可能超越人类。例如，ChatGPT是一个大型人工神经网络，人脑是生物神经网络，两者都是神经网络。一个人一生最多只能阅读一万本书，而人工智能可以在短时间内阅读人类所有的书籍，并能融会贯通，突然涌现出新的能力，这一点实际上已经发生了。现在它是数百亿连接的人工神经网络，类似于一个小型动物的脑复杂度，已经具备了一定的智能。随着进一步的发展，它的融会贯通能力会越来越强。此外，人工智能的处理速度也比人脑快上千倍。以视觉系统为例，每秒30帧的电视画面人就感觉为连续了，而我们开发的脉冲视觉芯片比人眼或目前典型的计算机视觉系统快千倍，旋转的车轮在AI眼中清晰可见，而我们看到的却是模糊一片。按照这样的发展趋势，谁敢说AI永远不会超过人类？我们人类有意识，有主观能动性，但也不要将其视为独有，具有自我意识的动物多达十余种，它们都能意识到自己和外界环境的关系。因此，一个人工智能系统发展到一定阶段，特别是具身智能在与环境互动的过程中，可能会突然意识到自身和环境的关系。至此，具身智能便拥有了自我意识。
本文主题词：黄铁军专家,黄铁军医生个人简介,北大黄铁军教授,黄铁良的相声作品?,黄铁梅简历,黄铁军个人简介,黄铁军鉴定专家简介,黄铁军鉴定专家图片,黄铁军医生,黄铁军鉴定
