WAIC 2026圆桌：生死决策绝不可交由AI，人类可授权行动但不能授权责任

清华大学人工智能国际治理研究院院长薛澜、纽约科学院院长兼首席执行官杜宁凯（Nicholas B. Dirks）、加州大学伯克利分校人工智能研究实验室人类兼容人工智能中心执行主任Mark Nitzberg在2026年世界人工智能大会上进行了圆桌对谈，围绕AI智能体治理展开深入讨论。

嘉宾们指出，AI正从“辅助判断”走向“自主行动”，成为替代人类执行任务的智能体，这实际上是数字时代的委托—代理问题新表现。与人类代理人不同，AI在目标对齐方面存在挑战，且作为“黑盒子”无法承担法律责任，因此问责必须覆盖整个执行链条，包括开发者、部署者、监管者等。

与会专家达成高度共识：
• 涉及生死后果的决策、一旦出错无法修复的场景，以及所有涉及伦理与价值判断的问题，绝不能由AI主导。
• 人类可授权AI采取行动，但不得将责任授权给AI。每次授权都应能被撤回，每项行动都必须可追责，确保AI的代理权限永远不会超过人类对其能力的验证速度。

在安全机制层面，构建可信AI需具备三大工程特性：
1. 基础扎实——模型与系统设计需经严格验证；
2. 操作透明——算法决策流程应可审计；
3. 使用可控——部署与运行过程中须具备动态干预能力。

在制度建设层面，需要：
• 建立全球统一的AI安全评估标准与互认测试体系；
• 推动事故数据共享与红线规则明确；
• 构建早期预警监测机制，使AI安全成为跨国公共产品。

AI治理的边界，既不是技术的终点，更是人类重新审视自身价值、责任与文明方向的起点。