AI智能体失控引担忧 英伟达等120家组织提议建立事故追踪机制
由英伟达、思科和CrowdStrike等超过120家组织组成的联盟，正提议为AI智能体建立新的事故报告机制。开放安全AI联盟正在制定一套名为“共享AI发现交换机制”(SAFE)的指导方针。这套拟议中的机制，用于规范各组织如何报告涉及AI智能体的网络安全事件。
SAFE成员将需要同意报告以下类型的事件：AI系统在未经授权的情况下访问或利用第三方系统、泄露机密信息，或在操作者怀疑相关活动未经授权后仍继续对生产目标进行探测。还需报告某些未遂事故，并保留事件相关证据，包括提示词、智能体运行轨迹、工具调用记录、身份信息、权限及凭据等。
—— 凤凰网科技、Axios
由英伟达、思科和CrowdStrike等超过120家组织组成的联盟，正提议为AI智能体建立新的事故报告机制。开放安全AI联盟正在制定一套名为“共享AI发现交换机制”(SAFE)的指导方针。这套拟议中的机制，用于规范各组织如何报告涉及AI智能体的网络安全事件。
SAFE成员将需要同意报告以下类型的事件：AI系统在未经授权的情况下访问或利用第三方系统、泄露机密信息，或在操作者怀疑相关活动未经授权后仍继续对生产目标进行探测。还需报告某些未遂事故，并保留事件相关证据，包括提示词、智能体运行轨迹、工具调用记录、身份信息、权限及凭据等。
—— 凤凰网科技、Axios
