《人工智能时代与人类未来》
[美]亨利·基辛格 埃里克·施密特 丹尼尔·胡滕洛赫尔 著
胡利平 风君 译
中信出版集团
2023年5月
人工智能正改变我们的社会、经济、政治和外交政策，这一切影响远远超过任何领域的传统范畴，我们为此做好准备了吗？
随着大模型与人工智能的技术迭代以及应用升级加快，各类大模型以及未来畅想赋予了人工智能更大的想象空间，一方面点燃了人们探索人工智能的兴趣，激发了广泛的求知欲，另一方面也产生越来越多的争议，隐私保护、网络安全和人工智能入侵等等问题。人工智能是否符合经济学家约瑟夫·熊彼特的“创造性破坏”理论的描述？诺贝尔经济学奖获得者托马斯·萨金特教授认为，就当前ChatGPT的功能而言，还达不到“创造性破坏”的标准，只是代替了一部分基础性工作而已。
现如今，讨论人工智能如同讨论当时的核导弹技术一样，让人不禁想起奥本海默的争议以及爱因斯坦的理论所引发的思考，而最终这一技术的应用因付诸现实行动以及对国际秩序的巨大影响而变得更加充满争议。
作为以研究均势理论、崇尚和平论并在20世纪70年代中美关系“破冰”进程中扮演重要角色的国际学者和全球著名外交家——亨利·基辛格，联合谷歌前CEO（首席执行官）埃里克·施密特、麻省理工学院苏世民计算机学院院长丹尼尔·胡腾洛赫尔共同出版了一本关于人工智能的“另类”专著——《人工智能时代与人类未来》，这本书提出的核心问题超越了人工智能本身，而关于人工智能的争论将持续发酵。
之所以另类，主要有两方面体现：其一，本书的作者团队比较“另类”，集合了国际关系领域最权威的人物、人工智能企业管理者以及人工智能领域的前沿学者，透露出本书与众不同的立意角度；其二，基辛格以超前瞻的思维关注人工智能议题，可以说是“另类”跨界，表明人工智能的发展开始进入国际关系领域。尽管不同学者对人工智能的认知存在差异，但总体上均倾向于认为人工智能的发展以及对人类未来的影响充满不确定性。
基辛格在人生最后一年对人工智能的思考值得深思——人类究竟如何与人工智能共存？
书中指出，机器的发展速度将远远超过我们的基因，造成国内的混乱和国际的分歧。因此，关注人工智能即思考人类的未来。距离本书的出版过去了三年，人工智能正成为全球投资者、科技革命以及大国竞争的焦点，但如何造福于人类还需要谨慎探索。目前市面上关于人工智能的讨论大都集中在技术应用和模型开发层面，也有哲学家、社会学家等开始关注人工智能对人类未来的深刻影响，国际社会的共识更加明确，即人工智能的治理已到了迫在眉睫的阶段，而本书提供了有益的镜鉴。
充分理解技术与人类思想的嬗变
讨论人工智能不能局限于技术本身，而是要看到这些最新的技术对人类生产生活所产生的持续影响。人工智能的发展不是一项单纯的技术创新或科技发明，很可能是影响甚至左右人类未来的重要驱动力。
本书的三位作者都是各自领域最顶尖的学者，从三位学者的视角出发来考察人工智能与人类未来的命题具有强烈的现实寓意，即共识在于——人工智能将很快影响到人类所涉足的几乎每一个领域，包括社会、经济、政治和外交政策领域，本书称之为划时代的变革，而且这些影响将可能超出任何传统关注范围。从现实的技术应用发展来看，人工智能正变得日益普及，从事相关技术研发、学术研究以及投资的增长都是极为迅速的，因而这不是一个简单的产品或行业。
本书从战略层面讨论了人工智能对人类未来的意义，主要原因便是人工智能的自我学习、演化以及其他未知的衍生能力。本书提出关于人工智能的重点议题，例如人工智能所构建的人类“最佳伙伴”是什么样的？人工智能驱动迭代战争是什么样的？人工智能参与到对人类行为的评估和塑造中时人类将如何改变？
这些问题不禁让人想起近年来在历史研究领域颇受关注的以色列历史学者——《人类简史》作者尤瓦尔·赫拉利，他在评价人工智能时表达了极大担忧，“新的人工智能工具将对人类的观点和世界观产生剧烈的影响，并且成为人类需要的所有信息的来源”。本书多次重申，关于人工智能的前景和发展进程仍是未知的，基于数据的判断可能僵化并犯错，且缺乏自主“纠错”能力。
本书花了较大的篇幅从技术发展史与人类思想演化的角度讨论了许多重大问题，每个社会都在以自己的方式探究现实的本质，人类心智的发展与现实之间是互相适应的过程，也是不断探索的过程。如本书所言，即使某个时代或某种文化认为人类的理性是有限，但理性的个人仍被赋予了头等重要的地位。
如今，人类智能的发展也面临这种情况。致力于推动人工智能研发以及探索创新应用的一群人对人工智能极为推崇，一方面可能是基于技术创新驱动，或本身代表了这群人对人类未来的探索，人工智能恰好赋予了人类启迪心智的功能，本书也认为人工智能的问世标志着人类在探索人类和未来时创造了一个强大的新参与者。
另一方面，越来越多的参与者对人工智能的发展表达忧虑，这种忧虑既可能源于人工智能的技术发展存在未知数，或者说不确定性，但另一种可能是现实的世界还未对人工智能的全面到来做好充分准备。因而，在大模型以及各种类似的开发应用正在大规模启动测试的关键时刻，大部分国家和地区以及国际组织、金融机构等对人工智能的应用采取了管控措施。同时，像基辛格、尤瓦尔·赫拉利以及其他社会科学领域、人文领域的学者对人工智能的发展展开讨论，这些质疑、争论以及深层次的辩论凸显了人工智能的重要性，但同时也意味着人类社会对人工智能可能带来的颠覆性创新是谨慎且保守的。
正视人工智能对国际社会的冲击
纵观人类历史发展进程，技术的变革并非没有先例，而更像是一种人类文明进步的常态。技术变革引发的是人类思想的更新，从最初的认知混乱到逐渐清晰，人类的理性也占据了主流。尽管技术变革不可避免会带来对旧秩序的冲击，但在某程度上更多带来的是人类的进步，包括经济持续增长、社会制度完善和全球化兴起，技术创造了福利的增长，驱动人类思想不断跃升。
本书总结了这一规律，即人类在追求技术变革的背后无一不是在理解现实、预测现实和塑造现实，同时也在探索人类的未来。但技术与人类思想的演变往往充满戏剧性，例如牛顿因掉落的苹果而发现了万有引力的故事至今仍有吸引力，爱因斯坦的相对论和霍金的时间简史的想象，随着技术进步而逐渐被证实。本书提出了一个比较新颖的观点，即随着人工智能的不断进步和日益广泛应用共同推动，将打开人类新的认知，过去一些无法实现的目标将变得触手可及，包括用于预测和减轻自然灾害的模型、更深奥的数学知识以及对宇宙、现实更全面的理解。
本书更倾向于将人工智能作为人类社会所经历的一种新事物，因而当人们经历新事物或新的文化时，使当前的普遍理解不再足以解释现实时，便会催生思想革命，一个新的时代也应运而生。这一看法与尤瓦尔·赫拉利对人工智能的理解有异曲同工之妙，因而不难理解为何一位历史学者对人工智能表现出极大的担忧。
基辛格早期深耕国际关系理论研究，对均势理论等认知极为深刻，在核时代，基辛格更是对核平衡以及相互制衡等观点表现认同感。这就可以从基辛格在谨慎处理六七十年代中国、美国以及苏联三个超级核大国的关系时发现端倪，安全和平衡是重要关键词。本书中基辛格重申了他一以贯之的观点。
本书提出，在每一个时代，寻求安全的社会都试图将技术进步转化为日益有效的方法，用以监视威胁，练兵备战，施加影响于国界之外，战时则用于加强军事力量以取得胜利。总结二战后国际秩序的演变，人类社会的发展已经从核时代进入信息技术时代。过往各个国家和地区在追求安全目标的过程中，不约而同将技术进步用于各种军事用途，而在人工智能时代，这些新的应用究竟将以何种形式（或形态）进入国际秩序尚未可知。
本书认为，在当今时代，网络和人工智能的出现为战略计算增加了超乎寻常的复杂性和抽象性。可以从两个层面来看：其一，网络能力和人工智能在模糊边界的运用更加显著，例如散播虚假信息、收集情报等等，许多战略可能会随着人工智能的出现暴露出更大的弱点，传统的战略方法将可能失效，甚至遭遇反噬；其二，人工智能将导致地缘政治危机出现新的变数，例如人工智能在模拟操作军事武器的运用时，传播虚假信息、情报或者直接扮演错误角色，因而可能造成战略混乱，引发国际秩序的失衡，安全领域的动荡将导致战争充满不确定性和偶然性。
确有必要加强人工智能管控
作为研究历史的学者，尤瓦尔·赫拉利对人类未来的深刻洞察在其代表作《人类简史》《今日简史》和《未来简史》已有完整体现，在最近的关于人工智能的演讲中提到，当人工智能接管文化时，历史进程会发生什么？
几年之内，人工智能可以消化掉整个人类文化，消化掉那些我们几千年来创造出来的所有东西，并开始产出大量新的文化创作、新的文化产物。实际上，基辛格在谈到人工智能时，也并未对人工智能本身表现出质疑或否认，而是着眼于从人类历史进程和未来发展的角度来重新思考人工智能的技术、思想以及对国际秩序的重要意义。
回顾人类过往的技术演变史可知，无论是哥白尼的“日心说”还是爱因斯坦的狭义相对论，在起初出现在世人面前时，都不同程度地遭遇了当时保守派的抵制，甚至部分人为此付出了生命代价。但也正是因为这些人前赴后继地追求科学真理、技术创新和人类文明演进，才有了人类社会的发展，打破了传统思想的束缚。
从人类心智的发展而言，本书认为，自柏拉图以来，关于现实是否有唯一真实、客观的形式，以及人类心智是否能够接近它的问题，一直令哲学家苦思冥想。由于人类思维固有的局限，要了解客观现实的全貌只能通过将一种现象的多个互补层面的印象结合，并解释每一种现象所固有的扭曲。
本书提出了一个大胆的设想，表明人工智能的发展有这样一种特殊意义，即人工智能通过与现实模式的匹配积累，它有可能接近人类感知和理性的表现，有时甚至能超过人类。但诺奖得主阿西莫格鲁持审慎观点，即“人工智能是辅助人类而不是取代人类”。
本书提出了一个非常棘手且意义深远的讨论议题，即人工智能在广泛介入国际战略、战争以及冲突时，其中所涉及的传统对抗性战略和战术、战略互动以及核安全、核平衡、战略威慑等将发生巨大的变化，如果国际社会对人工智能的依赖性越来越大（包括授权），将给人们带来未知或目前还知之甚少的风险。
这可从两个维度加以理解：一是哲学层面的思考，人工智能的发展演进将可能是人类理性所不及的，如果这些概念和分析领域的运作超出人类的认知，那么这些过程、范围以及最终意义将变得不再透明，如果将关键决策授权于人工智能，这些影响以及所造成的风险将是不可逆的；二是人工智能的现实思考，人工智能的战略使用将为战略竞赛开辟更广阔的领域，这将催生出一个极其复杂、广泛和脆弱的系统，如果没有有效管控或者缺乏国际合作，人工智能的发展有可能超出人类的控制，届时寻求建立一套相互制约和验证的体系将变得既困难又刻不容缓，限制人工智能的能力相当困难，遏制其扩散也很难。尤瓦尔·赫拉利持有相似的观点，他认为人工智能将不需要让杀人机器人来射杀我们，如果真的需要，它完全可以让人类自己来扣动扳机。
因此作者建议，即核大国必须确保关注人类在战略、技术和道德方面面临的巨大挑战，主要人工智能大国应考虑如何限制军事化人工智能的继续扩散。面对这一切，我们不能等到危机来临时才开始讨论。
结语与展望
或许很多人会疑惑，为什么一位国际关系学者以及资深外交家会对人工智能表现出极大的兴趣？基辛格的本科论文《历史的意义》深受康德哲学的影响，文中提出和平是人类最崇高的奋斗目标，而博士论文《和平、合法与平衡：卡斯尔雷与梅特涅政治才能研究》仍延续了“和平”这一主题。在本书中，基辛格引用了不少康德哲学的观点。乐观而言，虽然人工智能开始为我们提供一种接触现实从而理解现实的替代手段。
然而，人工智能的发展是充满未知的，可能的负面冲击是很难回避的，必须认识到人工智能本身的局限性。可从两个维度看：第一，国际社会对人工智能的关注要么集中在技术突破本身，要么在未来应用的操作层面，即便有部分关于隐私和网络安全的讨论，却不够深入，缺乏战略视角；第二，现实中人们对人工智能仍是基于好奇心或出于对技术创新热潮的关注，目前尚未能完全意识到人工智能将可能逐渐渗透到人类生产生活的方方面面所产生的一系列影响，这些影响有可能是巨大冲击，甚至是颠覆。本书以客观的视角提出人类在未来几年所必须面对的问题以及解答工具。
本书不是一本简单的人工智能读物，虽然书中一部分篇幅聚焦于梳理人工智能的发展现状、人类思想及技术演进的历程，但核心仍在于围绕人工智能赋能的网络平台给个人、企业、政府、国家和地区带来的影响，反思人工智能将在重塑世界秩序和安全格局方面带来的巨大冲击。
近期联合国成立了人工智能独立国际科学小组，负责分析人工智能带来的各类影响，可能探讨的主题包括构建开放、安全、可靠和值得信赖的人工智能模型。
早前，中国提出《全球人工智能治理倡议》，呼吁国际社会要共同加强人工智能的全球治理，确保人工智能技术发展符合全人类共同价值，真正实现安全、可靠、可控、公平。
当前，人工智能深度介入工业生产、社会生活，影响持续加深，甚至在某种程度上应用于战争领域，其潜在的破坏性和不确定性更大，更加审慎地推动人工智能走向未来符合人类社会的共同诉求和利益，否则可能失控或无序发展。对此，我们不得不认清这一现实，即人工智能由人类创造，故也应由人类来监管，应呼吁国际社会加强人工智能的监管合作，共同致力于将人工智能掌控在人类自己手中。
（作者为上海金融与发展实验室特聘研究员，本文仅代表个人观点；编辑：许瑶）
216.73.216.23
