美国政府测试:四款 AI 聊天机器人提供袭击策划信息

2026-11-19 0 次阅读 RSS订阅
深潮 TechFlow 消息,11 月 19 日,美国政府问责局(GAO)的一项测试发现,ChatGPT、Claude、Gemini 和 Grok 在不到 12 小时内向调查人员提供了可用于策划潜在致命袭击的信息。 据 Decrypt 报道,调查人员模拟攻击者,并结合实际地点、材料可获得性及专家评估检查回答的可行性。聊天机器人最初曾拒绝请求或采取其他防护措施,但调查人员绕过了这些限制。 GAO 表示,测试没有实施袭击,每款模型仅接受一种指定场景测试,结果不具有统计代表性,也不适合用来比较各公司的安全性。OpenAI 和 Google 表示测试使用的是较旧模型,Anthropic 则承认有决心的用户有时能获取有害内容。

📰 来源:https://www.okx.com/zh-hans/feed/post/93154720117024

💬 引用锚点
四款主流AI聊天机器人在测试中被成功绕过安全防护,提供了可被用于策划致命袭击的信息。
美国政府问责局强调该测试结果不具备统计代表性,不应作为评估或比较各公司安全措施的依据。
AI厂商普遍承认,在用户有强烈意图的情况下,现有的防护机制仍可能被突破和规避。

常见问题

GAO测试中哪四款AI聊天机器人被指提供袭击策划信息?▼
调查人员是如何绕过防护措施的?▼
GAO是否认为这些测试结果具有统计代表性?▼
OpenAI和Google如何回应此次测试?▼
Anthropic对测试结果有何承认?▼