微软CEO纳德拉警告：强大AI模型可能被攻破，需建立“紧急刹车”机制

微软公司CEO纳德拉表示，企业应将强大的AI模型视为潜在的内部威胁，假定它们可能已被攻破，并建立一套 “紧急刹车”系统，以防止智能体模型失控。纳德拉周六在 X 平台上发帖称，部署先进AI的企业不应仅仅依赖AI模型开发商的安全保证。纳德拉表示：“我们必须假定模型已被攻破，并从一开始就对其加以限制。可以把它想象成紧急刹车。获得授权的人员应当始终能够在模型执行任务的过程中暂停或关闭它。”纳德拉提出的安全建议包括：不要依赖单一AI模型作出关键决策，保留不可篡改的AI智能体行为记录，并对AI系统进行独立审计。还呼吁披露重大AI故障或安全漏洞，呼吁企业分享出错细节。

—— 凤凰网科技