OpenAI披露两起AI辅助隐蔽影响行动:利用AI制造“虚假身份”传播内容

2026-10-08 50 次阅读 RSS订阅
Odaily星球日报讯 OpenAI 发布报告称,近期已封禁两个利用其模型开展隐蔽影响行动(IO)的团伙,相关行动通过 AI 结合传统技术,创建“虚假前台”实体和虚假身份,OpenAI 表示,俄罗斯相关行动“Dark Clark”控制了一个名为“社会研究中心(SRC)”的虚假智库,疑似利用 ChatGPT 撰写内部报告、生成内容,并在拉美地区开展影响活动,该行动被 OpenAI 评估为 IO 突破规模(IO Breakout Scale)第 5 级,是其自开始披露相关行动以来首次发现达到该级别的案例。 OpenAI 表示,AI 并未改变这类影响行动的基本模式,但提高了其规模、效率、语言能力和内容生产能力,使攻击者能够更容易制造虚假身份、伪造内容,并将信息传播至真实媒体渠道。

📰 来源:techflowpost

💬 引用锚点
OpenAI首次披露达到IO突破规模第5级的隐蔽影响行动,显示AI正显著提升信息操纵的规模与能力。
虚假智库等‘虚假前台’实体被用于制造可信身份,结合AI内容生成能力以扩大传播影响力。
AI未改变隐蔽影响的基本模式,但大幅降低了制造虚假身份、伪造内容及渗透真实媒体渠道的技术门槛。

常见问题

OpenAI禁止了哪些团体?▼
什么是'Dark Clark'?▼
为什么OpenAI将此事件评为IO突破规模等级5?▼
AI在此次事件中起到了什么作用?▼