北大教授黄铁军：控制AI不现实，人类与智能体应在“理性世界”中共存

专题：2026北京智源大会

　　6月12日至13日，2026第八届北京智源大会在北京中关村国际创新中心举行。中国计算机学会会士、中国人工智能学会会士、北京大学计算机学院教授黄铁军出席并对话。

　　谈及如何界定AI智能体的危机，并将其控制在可控范围内、确保对人类有益时，黄铁军表示，“我觉得‘控制’、‘确保’这些词大概都不现实。”他认为，这将是一个复杂的互动过程。

　　他提出，未来必然是共存的状态。“智能体也是智能，我们也是智能。我们每个人将来可能自己都会有很多智能体，然后大家去互动。在这样的多智能体世界中，包括人、机器智能体、物理智能体、具身智能等在内，总要有一个界面和共识，否则就无法运转。”

　　那么，这个世界应该是什么呢？黄铁军认为，是“理性世界”。

　　他解释说，人们常说智能体是黑箱，它只告诉我们答案，却不告诉我们它是怎么想到的。但实际上，人类也一样，每个人的大脑也是一个黑箱。“你跟一个人交流时，你是只相信他告诉你的结论，还是要跟他探讨一下‘你为什么这么想’？就像医生给出建议后，你一定会关心背后的依据，将来也是一样的。”

　　他进一步指出，智能体首先能给出不错的答案，这很好。但下一步，人们一定会去挖掘“背后的为什么”，进而展开讨论。尤其是在医疗等安全至关重要的领域，包括蛋白质等有害物质的检测，他强调，最后一定要有一个明确结论，才能变成行动。在此之前的过程，应该是一个开放的讨论、头脑风暴、相互思考的过程。

　　因此，黄铁军认为，“一方面，我们无法完全确保对AI的控制，但另一方面，我们能够共同找出一条路来，共存、理性地发展下去。”

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。