Anthropic CEO Dario Amodei表示公司从未倡议禁止开源AI模型

IT之家 7 月 28 日消息，围绕 AI 是否应当开放权重（Open-weight），近期行业内的讨论持续升温。

题为《开放权重与美国 AI 领导力》（Open Weights and American AI Leadership）的公开信于上周五获得 20 多家公司联署，其中包括英伟达、Meta 和微软；该信明确支持开放权重 AI。

周末时，OpenAI、谷歌及 SpaceX 也加入了这封公开信的签署者行列。与此同时，始终未作表态的 Anthropic 因沉默而受到同行批评。

今天，Anthropic 的 CEO Dario Amodei 终于作出回应。他在最新发表的《我们对开放权重模型的立场》一文中提到，许多科技公司已经签署声明支持开放权重模型，还有人指控 Anthropic 意图通过禁止这类模型维护自身商业利益。他表示：“了解我过往文章的人应该清楚，我不认为这种禁令是有效措施。但我仍要明确说明，Anthropic 从来没有倡议禁止开放权重模型。”

Dario Amodei 将不具备危险功能的开放权重模型视为一种公共资产，因为除运行所需的计算资源外，它们不会产生任何成本，却能够为企业、开发者和研究人员创造价值。

在 Dario Amodei 看来，保护主义禁令并不能化解他最关注的国家安全问题。他主张严厉遏制工业规模的蒸馏操作，同时要求开源模型与闭源模型一律接受强制安全测试。

Dario Amodei 表示，公开信中的大多数观点他都赞同，但其中部分主张并未得到他的认可，例如开放权重模型一定更易落实防护措施，或能力被广泛获取后，防御者会比攻击者更占优势。他认为实际情况或许正好相反。

IT之家注意到，为说明自己的忧虑，Dario Amodei 以生物学领域可能存在的明显攻防不对称为例：高能力模型或许能借助现成材料，迅速制造具有大规模杀伤力的病毒；但要建立针对这些病毒的防御，却可能需要多年时间。

Dario Amodei 认为，不应预先假定这类问题的答案，而应通过严格的发布前测试进行验证。