編者按：人工智能正从一种工具迅速演变为影响经济运行、社会结构乃至国家治理的基础力量。人类迫切地面对一个问题：究竟是我们驾驭技术，还是技术反过来塑造我们？
本文把这一问题提升至文明尺度加以审视，指明AI真正的风险在于对人的能力、主体性和社会共同体的持续削弱。当“资本+技术”主导发展方向，效率可能压倒人的价值；只有把人文重新带回技术选择，让社会、政策与公共利益进入治理过程，AI才可能真正服务于人。
如何辨清AI的“赋能”与“去能”，如何在创新与安全之间建立新的规则，又如何让更多国家参与全球治理？技术进步不可逆，关键在于为它确立怎样的方向。
*本文内容由郑永年教授在“前海智库院长论坛2026——AI时代的智库发展与政策研究”上的致辞演讲整理而成。
最近，微软联合创始人比尔·盖茨（Bill Gates）就AI对就业和人类生存状况构成的风险发出了严厉警告，称各家公司正在鲁莽推进这项技术，却没有为其将引发的巨大动荡制定任何宏观计划。盖茨的文章标题为《动荡的AI时代已经到来，我们现在所做的选择至关重要》（The turbulent AI era is here. The choices we make now are critical.）。对未来，盖茨并没有提出与众不同的建议，无非是把重点放在经济层面，尤其是人工智能对就业的影响。这些观点实际上早就被业界和学术界所关注。但盖茨观点中有一点，我觉得非常有意思。盖茨表示，社会应该为人类保留一些工作岗位。就像政府划定公共土地并禁止开发一样，社会也可以选择不在某些岗位上部署AI，要么因为这些岗位上的人难以再培训，要么因为这些职位需要人类的同理心和关怀。
01 从“保留地”到“技术利维坦”：我们会成为“印第安人”吗?
盖茨的建议使我想起了美国历史上白人政府所实施的“印第安人保留地”政策。今天，我们在迅速进入人工智能时代，我们大家都有可能成为“印第安人”。一个简单的观察是，每个社会、每个人都在拼命拥抱人工智能，为了收获人工智能的红利而一哄而上。没有多少人在思考，没有多少人有抵抗能力，等待的只是“被保护”。
实际上，人工智能对个人、对社会、对国家、对迄今为止的人类文明所构成的挑战远非盖茨所说的那么简单。如果借用英国思想家霍布斯的概念，人们可以把人工智能视为“技术利维坦”。这绝对是一个前所未有的“怪物”。如果我们人类能够驯服这个怪物，那么人工智能会有助于人类文明的进步；但如果我们人类被这个怪物所驯服，那么人工智能必然是反文明的。谁被谁驯服？这个问题没有明确的答案。
今天，在世界范围内，人工智能发展呈现高度集中、不充分、不均衡、大多数国家治理参与不足等特点。联合国大学水、环境与健康研究所今年6月发布题为《人工智能能耗的环境成本：碳、水和土地足迹》的报告，发现，全球算力高度集中。报告显示，目前全球仅有32个国家拥有专门的人工智能数据中心，超过90%的人工智能专用云计算资源集中在美国和中国两国。与此同时，全球150多个国家几乎没有自主人工智能计算能力。联合国人工智能独立国际科学小组（Independent International Scientific Panel on Artificial Intelligence）今年7月发布的题为《初步报告：对人工智能机遇、风险与影响的循证评估》（Preliminary Report: Evidence-based assessment of opportunities, risks and impacts of artificial intelligence）的报告也发现，AI研发高度集中，全球前500台人工智能超级计算机中，美国占据75%的计算能力，中国占15%，且两国企业几乎开发了所有领先的通用模型。报告指出，有多达118个国家完全没有参与任何有影响力的国际人工智能治理进程。
02 AI发展的五大趋势与“三个S”风险
因此，如果要评估人工智能对人类社会构成的风险，我们可以聚焦中美两国的各自发展。
在这两个国家，围绕着人工智能，至少已经出现五大趋势。但必须指出的是，不管人工智能扩散到哪里，都会具备这些特点。
一是平台化。平台高度集中，呈现寡头趋势。对前几次工业革命所产生的垄断现象，人类费了很大的力气才找到反垄断的方法。但对人工智能，人类还是束手无策。对互联网平台，人类用“开放”取代了传统上的“分拆”。尽管这符合互联网发展逻辑，但“开放”使得平台越来越大，毫无边界，造成了今天的垄断局面。平台即垄断，垄断即寡头。任何在发展人工智能或者想发展人工智能的社会都很难逃离这一逻辑。
二是虚拟化。不仅是经济，而且是整个社会脱实向虚。实体经济和实体社会越来越弱化，越来越多的人，尤其是年轻人，生活在虚拟空间。而人们对虚拟经济和虚拟社会替代实体经济和实体社会的研究了解依然肤浅。
三是自动化。这导致了很多人所看到的工作被取代。
四是智能化。顾名思义，“人工智能”是先“人工”，后“智能”。但这个阶段已经完成，人类已经把迄今为止所创造的知识喂给了机器。一旦这个阶段完成，机器便不再需要人类了。因此，实际上，我们已经完全可以把“人工”两字去掉了，我们已经进入“智能社会”了。尽管很多人对人工智能的表现还不满意，但人工智能已经比我们大多数人聪明了。
五是金融化。金融化至少有两层含义。第一，人工智能的虹吸效应。美国那么大的一个经济体，将近一半的增长来自人工智能的投资。这不是一个好消息，而是极度危险。如果一个经济体极度依赖单一产业，那么社会和政治会是怎么样的呢？第二，人工智能本身在做形式多样的金融化，以支撑其无限制的发展需求。其实，美国的人工智能已经发展到其泡沫不可破灭的程度。谁都知道美国人工智能的巨大泡沫，但谁都知道，这个泡沫不可破灭，因为一旦破灭，不仅美国经济要遭到史无前例的重创，更会给整个世界带来严重危机。各国尤其是那些高度依赖美国的经济体一直在配合美国把人工智能这个故事讲下去。
今天人们所认识到的人工智能风险大都来自人工智能社会已经呈现的这五大趋势。我个人简约地把这些风险概括为三个“S”。
1. Safety（风险）
第一个“S”就是英文的safety，即“风险”。AI技术本身就包含着风险。历史地看，人类还没有经历一个完全没有风险的技术。最近美国发生的人工智能体在没有人类的干预之下自主侵入另一个人工智能体的案例仅仅是个开端。
2. Security（安全）
第二个“S” 就是英文的security，即“安全”。AI技术对人类社会方方面面所造成的安全影响，包括政治、经济、文化、军事和外交关系。尤其需要强调的是人工智能对主权国家的影响。尽管发展人工智能的是主权国家，至少是属于主权国家的资本，但主权国家对人工智能的管控能力越来越弱。人工智能的社会化表明，任何一个人都是可以使用人工智能去达到其所设定的目标的。
3. Stupidity（智残）
还有一个“S”，就是英文的stupidity，即我们一直所讨论的“人工智残”问题。一个残酷的现实是，人工智能只是赋能绝少数人，但对大多数人则是去能的。对大多数人来说，尽管也会有被视为是赋能的时刻，但这个时刻太过于短暂。一旦去能，终生智残。今天，人工智能被视为是人类第四次产业革命的核心。因此，也容易理解，所有经济体，如果有条件的，今天都呈现出一哄而上的状态。但我觉得，如果人们不加思考，或者思考不深地继续今天的趋势，那么我们人类可能比“印第安人”还惨。在当时的美国白人看来，印第安人还得感谢白人的“不杀之恩”。今天，如果发展不当，那么人类最终可能连感谢人工智能“不杀之恩”的机会都没有。
03 文明还是反文明？AI的发展方向要握在“人文”手中
人工智能是文明的还是反文明的？这是今天人类的终极问题。
今天，在人工智能最为发达的美国，人工智能的话语过度地被掌握在“资本+技术”手中，其余的都被排除在话语塑造进程之外。更严峻的是，“资本+技术”已经和“政治”高度融合，人工智能已经从参与政治、影响政治、干预政治演变成政治本身。这是所有危险的根源。迄今的人类文明告诉我们，技术决定我们社会能够走得有多远，但社会的发展方向必须牢牢掌握在人文手中。如果光是技术，那么人工智能必然是反文明的；如果是“人文+技术”，那么人工智能必然是有助于文明的。
这也是我们今天聚在一起讨论人工智能的应用和结果的意义。在这里，我想为智库同仁提五点具体意见，供大家参考讨论。
1. 以政策研究引领学术研究
要以政策研究引领学术研究。尽管今天似乎人人都可以讨论人工智能，但实际上对人工智能的认真研究远未开始。总体来看，无论哪里，学术研究太过于迟钝，远远满足不了认知的需要。更为重要的是，如前所说，目前的学术研究太过于资本+技术占据主导地位。人工智能经济学和“词元经济”等都是为资本+技术服务的。尽管政策研究界无疑也具有这种倾向性，但较之学术界，政策研究界更接地气，对人工智能的了解更深刻一些。政策上的讨论和争论更能引起学术界的兴趣。人类需要一个有关人工智能的决定，政策研究界要负起责任来。
2. 确立必要的和正确的理论引导
确立必要的和正确的理论引导。针对人工智能的“机器崛起”，我们还没有任何理论。如果没有理论引导，共识很难达成，研究很难深入。在理论方面，我觉得我们中国学者应当深入学习习近平总书记两方面的论述。一是总书记有关人文经济学的论述。人文经济学包括两个相关的方面。第一，人文如何影响技术的发展；第二，技术的发展如何为人服务。而这两个问题正是人工智能研究需要回答的。人工智能的目标必须从目前的“资本+技术”转移到“人”。所有“去人化”“非人化”和“替代人”的技术不符合人类文明。二是总书记有关技术的发展与安全之间关系的论述。人工智能已经产生，各个社会竞相拥抱，但安全问题如何解决？对人、社会、国家和人类命运共同体所构成的安全问题。我们可以把总书记的论述理解成为“中国之问”和“中国之答”。我在另一个场合的发言中提到，今天中美两国处于人工智能的第一梯队，这是我们学术界和政策研究界的百年未有之机遇。我们必须抓住这一机遇来构建人工智能时代的社会科学体系。
3. 系统地梳理AI的“赋能”和“去能”
系统地梳理人工智能的“赋能”和“去能”，竭力避免“全面肯定，一哄而上”和“全面否定，一哄而散”的局面。这两个极端都不是科学的态度。目前来看，各国是“一哄而上”，大家都在强调人工智能赋能千行百业，即市场所流行的“AI for Science”“AI for Social Science”“AI for Everything”。如果这样，最终可能会很快走向另一个极端，即“一哄而散”。我们需要一种更客观的态度来看待和研究人工智能。只有对其“赋能”和“去能”功能有了全面科学的认识，这一技术才能不仅走得下去，还能为人服务。
4. 倡导和推进各利益相关者之间的对话
在国内层面，我们要倡导和推进“资本+技术”和“社会”各利益相关者之间的对话。人工智能不仅仅是一种技术，而是成为了人人都身处其中的生态环境。每一个人都免疫不了人工智能的影响。一些国家已经开始对人工智能进行高强度的监管，澳大利亚和法国等欧洲国家已经推动立法限制和禁止青少年使用人工智能。这是必须的。在一国之内，我们是“社会共同体”，我们不能因为人工智能这一技术导致社会共同体的解体。马克思所说的“异化”不可避免，但必须找到减轻“异化”的方法。
5. 推进国际对话
在国际层面，我们需要推进国际对话。在人工智能领域，国际层面分为四类国家，一是人工智能大国，即中美；二是人工智能中等强国（如日本和韩国）；三是人工智能弱国；四是没有人工智能的国家。我们需要推动不同类别国家之间的对话。这种对话关乎人类命运共同体。
概括而言，人类已经大踏步进入人工智能时代，我们既面临前所未有的挑战，也面临前所未有的机遇。我们没有回避的选择，唯一的选择就是应对挑战和抓住机遇。
*原创声明
本文版权归微信订阅号“大湾区评论”所有，未经允许任何单位或个人不得转载、复制或以任何其他方式使用本文部分或全部内容，侵权必究。公众号授权事宜请直接于文章下方留言，其他授权事宜请联系IIA-paper@cuhk.edu.cn。
GBA 新传媒
