web3: DeepMind CEO提议设立前沿AI标准机构
摘要
Google DeepMind 首席执行官德米斯·哈萨比斯提出,应设立一个独立的前沿 AI 标准机构,对高能力模型发布进行测试和审查。这一设想瞄准当前美国临时评估机制所受质疑,也再次把 AI 监管方式推到台前。 参照金融业自...
Google DeepMind 首席执行官德米斯·哈萨比斯提出,应设立一个独立的前沿 AI 标准机构,对高能力模型发布进行测试和审查。这一设想瞄准当前美国临时评估机制所受质疑,也再次把 AI 监管方式推到台前。
参照金融业自律机构
哈萨比斯周二在 X 平台发文称,这一机构可参考美国金融业监管局 FINRA 的模式运作。按照他的设想,前沿 AI 实验室可先在模型发布前最多 30 天,自愿向该机构提交模型接受评估。
如果评估流程被证明有效且稳健,这套做法随后可以进一步制度化。届时,前沿模型若想在美国市场部署,可能需要先通过相关测试。对于模型上线后出现的严重漏洞,实验室也需与该机构协同处理。
回应现有审查争议
这套方案建立在美国政府此前对 Anthropic 的 Mythos 和 OpenAI 的 Sol 所做的临时审查基础上。相关审查曾因技术能力不足、决策过程不透明而受到批评,外界也质疑政府如何判断模型能否发布。
哈萨比斯提出的新机构,定位上将由美国政府支持,但资金主要来自 AI 行业,并保持独立运作。他认为,这样可以把模型发布评估从临时、分散的流程,转向更稳定的技术审查体系。
白宫内部仍有分歧
美国 AI 监管前景目前仍存明显分歧。科技行业内部对新增监管机构一直态度不一,特朗普政府内也没有形成统一口径。
白宫 AI 顾问、a16z 普通合伙人 Sriram Krishnan 近期淡化了行政部门设立 AI 监管机构的可能性,并表示“不会有 AI 版 FDA”。在这一背景下,哈萨比斯提出的自律型标准机构,被视为一种更容易推进的折中方案。
按照他的设想,该机构可吸纳开源社区代表和行业技术专家参与,也可把部分评估工作外包给专门研究 AI 安全风险的组织。哈萨比斯称,这种做法更强调技术审查,同时也试图兼顾创新速度与责任约束。
评论 (5)
科技行业态度不一,这折中方案也不一定好推行,有点悬。
白宫都分歧这么大,新机构推进起来估计很难,不一定能成。
吸纳开源和专家,外包评估,这方式能平衡创新和责任,值得试试。
临时审查被批,新机构要是能透明专业点就好了,就怕还是老样子。
这想法不错,参考金融自律机构,能把评估流程稳定下来,或许能解决现有审查问题。