外媒：Perplexity联合创始人质疑AI安全被用于集中权力

币界网报道： 外媒：Perplexity AI 与 Databricks 联合创始人 Andy Konwinski 近日发文称，当前围绕 AI 安全的讨论，正被部分前沿模型公司用来强化控制，而不是单纯降低风险。他认为，真正值得警惕的不只是模型能力本身，还有少数机构对前沿 AI 访问权的集中。 争议起点指向 Anthropic Konwinski 在文章中举例称，Anthropic 于 6 月 9 日发布 Claude Fable 5 时，曾在系统卡中披露一项安排：如果系统怀疑用户在利用模型训练竞争性 AI，模型可能会悄然降低回答质量。相关内容被研究人员发现后引发争议，Anthropic 随后在约 48 小时内撤回。 在他看来，问题不只在于这项决定是否妥当，而在于公司默认自己有权单方面决定谁能接近前沿能力、谁会被限制。 Open Frontier提出替代方案 这篇文章发布前，Konwinski 通过其非营利机构 Laude Institute 在旧金山召集了一场名为 Open Frontier 的工作会议，约有 100 名研究人员参加。文章称，会上讨论的核心问题是：如果前沿模型和算力持续集中在少数私营实验室手中，研究界将越来越依赖企业许可。 他提出的替代方案，是建立一个面向研究人员开放的“研究共享体”，提供前沿级别的算力资源，让顶尖研究者无需依赖单一公司的授权，也能接触前沿模型开发。 Konwinski 认为，AI 正在变成类似铁路、电力和互联网的基础设施。一旦底层能力由少数主体控制，社会运行方式也会围绕这些控制者重组。 LeCun公开支持开放路线 报道提到，加州大学伯克利分校计算、数据科学与社会学院院长 Jennifer Chayes 在一场资金讨论中表示，由于缺少西方开放的前沿模型，伯克利研究人员“都在基于中国模型开展工作”。她还称，OpenAI 和 Anthropic 在 IPO 前围绕安全问题的表述，形成了一场“非常有效的恐惧宣传”。 Meta 前首席科学家 Yann LeCun 也在 X 上直接回应 Konwinski 的文章，称自己多年来一直在表达类似看法。他表示，AI 权力集中以及对控制权的追求，是当前 AI 面临的最大危险之一。 LeCun 还用历史作比，称当下封闭实验室主导前沿 AI 的局面，类似于通过限制印刷传播来维持控制。他同时判断，基础模型既然正走向基础设施化，长期看会逐步商品化，真正持续的商业价值更可能留在应用层。 补充信息：报道提到，LeCun 已于 2025 年底离开 Meta，并在 2026 年 3 月于巴黎创办 AMI Labs，种子轮融资达 10.3 亿美元。该公司以 world models 和 JEPA 架构为核心，计划开源研究成果，且多年内不会推出商业产品。