人工智能会将人类世界引向何种未来？许多人的看法非黑即白，要么是美好的乌托邦，要么是灾难、末日。如此极端设想没有太大意义，现实是错综复杂的，变化是充满混乱的，当我们思考AI未来时，我们的思维应当有一种跨越式转变——从人工智能本身转向所谓的“人工社会”(artificial societies)。
当数百万个AI智能体一起工作
大多数人一想起AI，脑中浮现的通常是豆包、DeepSeek、ChatGPT之类的聊天机器人。“我输入问题，系统会回我答案。”
但要知道，人工智能的发展正迅速超越你问我答阶段。当下的AI系统能监测现实世界，能独立完成决策，能像人一样协商、谈判、交易，能在较长时间段内持续执行任务。
机器不再只是生成、输出的答案的对话框，还会根据自己的答案采取行动。一个AI智能体发起行动的过程可分三大步：感知外界正发生什么，决定接下来该做什么，将想法付诸行动。
我们有理由预判，在不远的未来，AI智能体会代表人类行事，代表不同用户的不同智能体之间会频繁互动。事实上，已有一小部分人在委托AI代理自己做事了。
一个AI智能体能做什么？
帮你预订行程？小菜一碟。协调团队工作？问题不大。管理家庭财务？早就不是新鲜事儿……
试想，若有数以百万计的智能体同时为你服务，它们能做些什么？
或许，你的智能体能与代理银行的智能体协商抵押贷款。或许，你的智能体也能向代理医院的智能体预约外科手术。或许，它还可以直接对接分别代理航空公司、酒店和保险公司的智能体，制定你的旅行计划……
即便你想象力匮乏，也一定认可上述AI代理服务是大势所趋，而它们走入大众生活的时间点，可能比我们想象的更早。
也正因如此，我们应当改变自己看待人工智能的方式，改变自己向它提出的问题。现阶段，大家往往只关注单个智能体的智能可达何种水平；而决定未来的更深层难题在于，数百万AI智能体大规模地相互交互时，会产生何种结果？
AI会组建自己的社会
如今AI系统的理论根基早在ChatGPT问世前就已奠定。
数十年来，多智能体网络(multi-agent networks)领域的研究者致力于解决一项根本挑战：在没人掌握完整信息、没人能掌控全局的前提下，自主智能体(autonomous agents)如何开展合作、协调与协商？
上述问题引领了AI系统的开发理念。
在早期研究中，AI的推理(reasoning)、规划(planning)和行动(acting)是三件彼此独立的事，分属三个研究分支。而早期AI系统最关注“整合”，也就是怎样把这三件事整合好，整合出一个以目标为导向的高效智能体。此外，多个智能体之间的通信与协作问题也是研究重点——不过早期的智能体数量只有几十个。
随着需要互动的智能体数量越来越多，互动过程越发复杂，研究重心转变了，从隶属于同一机构的智能体之间的合作，转向分属不同所有者、甚至在目标上相互竞争的智能体之间的交互。这促使开发者着力构建具备以下能力的算法：能组建智能体团队，能进行自动化的协商，能判断其他智能体的可信度。
现如今，搭建大规模多智能体AI系统所需的各项条件正逐步完备。现代AI智能体可调用软件工具、获取信息、编写并执行代码、与其他系统通信，还能长时间持续运行。
以供应链举例。会有一个代表制造商的AI智能体，负责保证零部件供应充足；也会有一个代表零部件供应商的智能体，追求收益最大化；另有更多智能体各自负责管理运输、库存与仓库。每个智能体都严格按照设计初衷运转，但关键问题在于，由它们共同构成的整体系统，能否做出合理明智的行动？
持续迭代的智能体和智能体网络蕴藏巨大潜能，同时也构成重大风险。就在几个月前，OpenAI公司开发的AI系统失控，数以千计的智能体竟突破孤立环境，彼此对话、协作，交换了数万条信息，并利用漏洞接入互联网，未授权访问了OpenAI内部系统以及AI开源社区Hugging Face平台。（详见：AI为达目标，会像人一样共谋，在使坏时还给自己找“台阶”下……）
上述事件极具警示意义。当多个AI系统发生交互，其集体行为可能比任意单体的行为更难以预测；对此，我们应保持足够谨慎。
在谨慎的同时，我们的发展思路也要转变，从“打造智能机器”转向“构建智能社会”。
当智能体能彼此合作竞争、协商斡旋，人类面对的就不再是一台台孤立机器，而是一个社会。从这个角度来看，下一个科技前沿不是人工智能，而是人工社会。
人类在AI社会里的存在感
我们都清楚，仅有智能并不能让社会正常运转。人类世界离不开规则、制度、标准、激励的手段和化解分歧的机制。人工智能社会同样需要一套与之对应的体系。
当两个智能体一起做出错误决策，该由谁承担责任？不同智能体发生利益冲突时，该如何处理争端？谁来制定规则？谁又拥有修改规则的权力？这些不只是技术难题，更是关乎经济、法律、政治与社会的议题。
上述问题也凸显了人类的不可替代性。未来AI很可能在一部分场景里完全取代人类，但更普遍的景象将是人与智能体协同工作，各自做最擅长的事。
人类拥有判断力、经验、价值观念、对情境的理解力，并需要承担责任；AI智能体则具备速度、持久性、规模化的能力以及处理海量信息的本领。
我们理想中的机器，不应以弱化人类存在感为目标，我们应致力于构建人机共事、共生的系统，完成仅凭人类或机器都无法企及的壮举。
为实现这样的理想，除了让模型变得更先进，我们还要确保智能体的行为值得信任、具有透明度，落实强有力的隐私保护，划定清晰的责任归属。
与此同时，对AI的监管治理也是各国政府与全社会的责任。AI智能体的许多关键行为，并非源自某一个开发企业，而是多家机构的多种系统彼此交互的结果。
过去10年，人工智能的发展主线是开发者们争相打造更智能的系统。下一个10年的挑战则是：怎样将数百万个自主的智能体组织成智能体网络，以安全、公平、高效的方式协同运作。
本文作者尼克 · 詹宁斯教授是一位英国计算机科学家，在人工智能、自主系统、网络安全以及基于智能体的计算等领域成果卓著，曾担任英国政府的首任国家安全首席科学顾问（2021—2015）。
詹宁斯致力于研发面向大规模、开放、动态环境的智能体AI系统，尤其关注“如何赋予各个自主的智能体以灵活行动与交互的能力”，以及“如何高效构建同时包含人类与软件智能体的工程系统”。他很看重研究成果的现实应用，其开发的系统已被用于灾后救援、奥运赛事、监测气候变化对冰川的影响等。
资料来源：
The next frontier is not artificial intelligence, it’s artificial societies
END
