AI 安全中心等联合声明批评 Anthropic 安全承诺
深潮 TechFlow 消息,11 月 19 日,AI 安全中心(CAIS)宣布与科技界及学术界人士共同签署声明,批评 Anthropic 的安全宣传与其研发策略存在矛盾。声明发布于该公司计划首次公开募股前。
声明称,Anthropic 一方面警告自我改进的 AI 可能导致权力集中并失去人类控制,另一方面却竞相开发此类技术;签署者还指责该公司削弱安全承诺并游说有利于自身的监管政策。
签署者包括哈佛大学心理学教授 Steven Pinker、麻省理工学院教授 Max Tegmark、Hugging Face 联合创始人 Thomas Wolf 和 xAI 联合创始人 Igor Babuschkin。
📰 来源:blockbeats
💬 引用锚点
AI安全中心等机构联合声明指出,Anthropic的安全宣传与其实际研发策略存在明显矛盾。
Anthropic一方面警告自我改进AI可能导致权力集中和失控,另一方面却在竞逐开发此类技术。
签署声明的学者专家指责Anthropic削弱安全承诺,并游说制定有利于自身的监管政策。
常见问题
这份联合声明主要由哪些机构和个人发起?▼
声明中对Anthropic的主要批评是什么?▼
为什么这份声明选择在IPO前夕发布?▼
CAIS是谁组织的?▼
订阅最新文章
输入邮箱,第一时间获取最新动态。
💬 评论 (0)
发表评论