风险提示:理性看待区块链,提高风险意识!
USDT USDT $1.00 0.01%
XRP XRP $1.43310000 0.19%
BNB BNB $637.54000000 0.02%
USDC USDC $0.99963000 0.01%
SOL SOL $86.49000000 0.99%
TRX TRX $0.32360000 1.25%
BTC BTC $67,234.00 2.34%
ETH ETH $3,456.00 1.23%
CoinMeta Skill
限时免费体验

让 AI 更快获取有效、准确、可行动的币圈全景信息

菲尔兹奖得主Jacob Tsimerman加盟OpenAI:数学家如何重塑AI安全的确定性

摘要

首位转向AI安全的菲尔兹奖得主 7月23日中午,费城宾夕法尼亚会议中心126-B会议室,四位新科菲尔兹奖得主并排而坐。邓煜与王虹成为首批获此殊荣的中国籍数学家;而加拿大数学家Jacob Tsimerman在颁奖现场宣布:他将离...

菲尔兹奖得主Jacob Tsimerman加盟OpenAI:数学家如何重塑AI安全的确定性
首位转向AI安全的菲尔兹奖得主 7月23日中午,费城宾夕法尼亚会议中心126-B会议室,四位新科菲尔兹奖得主并排而坐。邓煜与王虹成为首批获此殊荣的中国籍数学家;而加拿大数学家Jacob Tsimerman在颁奖现场宣布:他将离开多伦多大学教职,全职加入OpenAI,专注AI安全研究。 从数论前沿到智能体行为边界 Tsimerman生于1988年,少年时期即两次斩获国际数学奥林匹克金牌,2011年获普林斯顿大学博士学位,师从Peter Sarnak。其学术生涯长期聚焦算术几何核心难题——André–Oort猜想。他不仅攻克了阿贝尔簇模空间中的关键情形,更与合作者完成该猜想的一般性证明,所发展的Ax–Schanuel型超越性定理与高度理论,已成为处理“不太可能交集”类问题的标准工具。 为什么是数论学家? OpenAI当前面临的安全挑战已发生质变:长时程智能体不再仅输出单句回答,而是执行跨百步、多节点、带状态迁移的复杂行为序列。传统基于样本测试与规则拦截的方法难以覆盖所有路径组合。安全团队亟需的不是“它这次没出错”,而是“它在任何满足条件的输入下都不可能越界”。 数学不是工具,而是语言 Tsimerman并不打算直接编写防御代码。他带来的是一种建模范式:用o-minimality等模型论思想,为智能体行为空间建立可描述、可分割、无病态震荡的结构化表达;借鉴证明系统中“证明者-验证者”的分工逻辑,将安全目标从经验验证升维至约束可证。他与Andrew Critch合作的《A Taxonomy of Omnicidal Futures》并非预测灾难,而是将模糊风险拆解为可定义、可枚举、可设防的类型学框架——这恰是他早年将抽象模型论概念落地为几何分析语言的延续。 安全,终将是一门可证明的科学 目前尚无方法能像证明勾股定理那样,严格证明一个大模型永不越界。但数学可以重构问题本身:例如“包容验证”不求证AI内部意图安全,而证明其对外接口必然受限;不追求全覆盖,而构建条件清晰、边界明确的命题集合。Tsimerman的转向,标志着AI安全正从工程调试阶段,迈向以结构、约束与确定性为基石的理论建构阶段。

评论 (10)

登录 后即可发表评论
洁癖少奶奶爱上三天不洗头的我

数学重构AI安全问题,想法不错,就怕实际操作起来困难重重。

0 回复
HBK55068
HBK55068 1周前

用数学语言和建模范式来解决AI安全问题,听起来挺厉害,就看实际效果咋样了。

0 回复
一泓清水

用模型论思想解决AI安全,感觉挺玄乎,不知道靠不靠谱。

0 回复
上合控股

数学家搞AI安全,挺新鲜,感觉能给OpenAI带来新思路,没准真能解决安全难题。

0 回复
涟漪
涟漪 1周前

有数学家加入,OpenAI的安全问题应该能得到改善。

0 回复
更多