人工智能是否会演变为灾难？如何监管防止人工智能被滥用？

人工智能是否会演变为灾难？如何监管防止人工智能被滥用？

2026-06-18 11:54·集智俱乐部

与前几年围绕算力、芯片和大模型能力的讨论不同，如今越来越多国家开始把注意力放在另一个问题上：当人工智能越来越深地进入现实社会之后，我们究竟应该如何与它共处？这个问题之所以变得迫切，并不是因为人工智能突然变得危险，而是因为它正在悄悄改变一种过去很少被人注意的东西——责任。过去两年里，人们已经习惯于把AI当作助手。它帮我们写邮件、整理文档、生成图片、撰写代码、分析数据，甚至规划旅行路线和制定工作方案。在很多场景中，人们已经不再把它看作单纯的软件工具，而更像是一位随时待命的数字同事。这种变化起初看起来只是效率提升。毕竟，从计算器到搜索引擎，人类一直在不断创造工具帮助自己完成工作。然而，当AI开始从“提供答案”走向“执行任务”时，事情正在发生微妙变化。一个能够主动检索信息、调用工具、制定计划并完成任务的智能体，与过去那些被动响应指令的软件已经不是同一种事物。人们不再只是利用工具完成决定，而是在越来越多情况下，把决定本身交给工具。这听起来似乎只是一步小小的跨越，但从社会演化的角度看，它可能意味着一次深刻转折。假如你准备购买一份保险。过去，你会阅读条款、比较价格、分析保障范围，最后做出自己的选择。今天，你可能会直接把需求告诉AI，让它筛选产品并给出建议。再过几年，AI甚至可能获得授权，直接代表你完成比较、谈判和购买过程。最终保单依然属于你，但作出判断的过程已经发生转移。类似的变化正在各个领域同时出现。企业开始让AI参与招聘筛选，银行利用模型评估信用风险，医院使用算法辅助诊断，投资机构依赖智能系统分析市场，物流平台通过算法调度资源。越来越多决定不再由人直接完成，而是在人的目标设定与机器的执行能力之间共同产生。当这种趋势不断扩大，一个过去被隐藏在效率叙事背后的问题开始浮现：如果决定是AI参与完成的，那么责任应该由谁承担？这个问题看似属于法律范畴，实际上却涉及现代社会运行的一项底层逻辑。回顾过去几百年的现代化进程，人类社会最重要的成就之一，就是逐步建立起一套清晰的责任体系。公司法规定企业责任，合同法规定交易责任，医疗体系规定医生责任，金融体系规定机构责任。整个现代社会之所以能够在数十亿陌生人之间维持协作，很大程度上依赖于这种明确的责任分配机制。一个结果出现之后，人们通常能够追溯其来源。是谁做出的决定，是谁执行了决定，谁应当承担后果，责任链条越清晰，系统运行越稳定。而人工智能带来的挑战恰恰在于，它开始让这条链条变得模糊。在传统决策模式中，决策者与执行者往往是同一个主体，或者至少是可以明确识别的主体。即便一个组织内部存在复杂分工，人们依然能够找到最终负责的人。但在AI时代，一个结果往往来自多个主体共同作用。用户设定目标，企业提供平台，工程师设计模型，算法生成方案，智能体自主执行，最后形成现实后果。在这个过程中，每一个环节都参与了决策，却又似乎都只承担了部分责任。于是，一种新的现象出现了：责任没有消失，而是被分散了。近年发表在《自然》上的一项研究，揭示了这种变化背后更深层的心理机制。

论文题目：Delegation to artificial intelligence can increase dishonest behaviour论文链接：https://www.nature.com/articles/s41586-025-09505-x发表时间：2025 年 9 月 17 日论文来源：Nature研究者发现，当人们需要亲自实施某种不诚实行为时，往往会受到明显的道德约束；但如果他们只需要向AI提出一个模糊目标，而把具体执行过程交给机器，不诚实行为的发生概率便显著增加。有意思的地方在于，实验参与者并不一定认为自己变得更加不道德。他们只是感觉自己距离那项行为更远了。过去，一个人如果想作弊，必须亲手完成作弊行为；今天，他只需要说一句：“帮我获得最好的结果。”至于具体如何实现，则交给机器处理。

行为仍然发生了，但心理上的责任感却被稀释了。这种现象并不局限于实验室。现实世界中已经出现越来越多类似场景。动态定价算法会自动提高价格，推荐系统会不断强化用户偏好，内容生成工具可能制造误导信息，交易模型可能放大市场波动。很多时候，人们并没有明确要求系统做坏事，他们只是设定了一个目标：提高利润、增加流量、扩大影响力、降低成本。而算法则负责寻找最有效的路径。问题在于，最有效的路径未必总是最合理的路径。如果把社会看作一个复杂系统，就会发现责任其实不仅是一种伦理要求，更是一种重要的反馈机制。生态系统能够维持稳定，并不仅仅因为物种之间存在竞争与合作，更因为系统内部存在大量反馈回路。捕食者过多，猎物减少；猎物减少，又会限制捕食者增长。正是这些反馈，让整个系统避免走向极端。社会系统同样如此。法律、道德、声誉、制度、文化，这些看似抽象的东西，本质上都在发挥类似作用。它们不断提醒行为主体：你的选择会带来后果，而这些后果最终会反馈到自己身上。这种反馈并不会阻止人们行动，却能够约束系统偏离稳定状态。人工智能的特殊之处在于，它可能削弱部分反馈机制。当人们越来越习惯于把判断交给机器，把选择交给算法，把执行交给智能体时，行动与后果之间的心理距离正在被不断拉长。收益变得更加清晰，责任却变得更加模糊。短期效率持续提升，而长期风险则可能被隐藏在复杂的决策网络之中。这也是为什么人工智能带来的挑战，与互联网时代有所不同。互联网改变的是信息传播结构。人工智能改变的则是决策结构。传播结构决定信息如何流动，决策结构决定系统如何运行。当算法开始决定谁获得贷款、谁获得工作机会、谁获得流量、谁获得医疗资源时，它所影响的已经不再是信息本身，而是现实世界中的资源配置。从复杂系统角度看，控制结构的变化往往比技术能力的提升更重要。生态系统中的顶级捕食者数量变化，可以重塑整个食物网；气候系统中的洋流变化，可以影响全球天气模式；社会系统中的决策机制变化，同样能够改变整个系统的运行轨迹。

因此，今天关于人工智能治理的讨论，真正需要面对的并不仅仅是技术问题。很多人习惯把监管理解为限制创新，但回顾历史，每一次重大技术革命都会伴随着新的责任体系重建。工业革命催生了劳动法和社会保障制度，金融全球化推动了跨国金融监管体系，核能发展促成了国际原子能机构的建立。这些制度出现，并不是为了阻止技术进步，而是为了让技术进步能够长期持续。因为任何复杂系统都需要在增长与稳定之间保持平衡。技术负责扩大能力边界，制度负责维持系统秩序，两者缺一不可。从这个角度再去理解“中国探索开展人工智能监管合作”的意义，讨论的其实已经不只是模型能力、安全风险或者行业规范。更深层的问题在于，当人工智能开始参与越来越多重要决定之后，人类是否能够同步建立新的责任框架。未来的挑战或许并不在于机器是否拥有更强能力，而在于人类是否仍然能够清晰回答一个古老的问题：当某件事情发生之后，究竟是谁作出了决定？因为文明的发展从来不仅仅依靠能力增长。如果能力不断扩大，而责任不断稀释，那么再先进的技术也可能成为新的不确定性来源。真正成熟的社会，不是拒绝把工具交给机器，而是在工具越来越强大的时候，依然能够守住责任的边界。毕竟，人类创造人工智能的初衷，从来不是为了逃避判断，而是为了更好地作出判断。