哈萨比斯:AGI黎明将至,安全框架必须先行

0 次阅读 2026年07月15日

这是人类历史上一个关键时刻

一个具备人脑所有认知能力的系统——通用人工智能(AGI),可能只需短短几年就能实现。当我们几十年后回首这段时期,我们将意识到自己正站在奇点的山麓,这无疑是人类新时代的黎明。

我毕生致力于AGI的研究,因为我始终深信:如果能够负责任地构建和部署,它将成为人类有史以来最有益、最具变革性的技术之一。

AGI不是互联网或移动电话那种级别的技术突破,哪怕这两样已经改变了世界。它应当被与电和火的发现相提并论。我们所做的,本质上是让沙子学会思考——这近乎奇迹。

这项技术的影响规模将是前所未有的,或许相当于工业革命,而速度则是其十倍。它将帮助我们加速药物研发、开发新型清洁能源、创造先进材料,甚至可能使资源不再成为人类进步的限制因素,开启一个富足的新时代。

前沿领域的挑战

AI已开始带来实实在在的好处,但要释放其全部潜力,我们必须审慎而细致地度过这一关键发展期。

我们亟需采取行动,以应对逼近AGI过程中可能出现的风险。前沿模型已在网络安全领域显露隐患;随着能力持续跃升,核风险、生物风险等更高阶威胁也可能迅速浮现。

未来,我们需要强有力的保障机制,来维持对日益自主、具备递归自我改进能力系统的控制,并提前应对那些随时间推移才逐渐清晰的未知问题。

我一直相信人类的独创性足以应对任何挑战。我确信,缓解AI相关技术风险是我们共同能解决的问题——但前提是,我们必须为自己争取足够的时间与空间,把下一个关键步骤做对。遗憾的是,研究界没做到,社会层面也尚未到位。

此刻,我们正陷入一场极其激烈、多层次的商业与地缘政治竞赛。这场竞赛推动了AI的飞速演进,也催生了许多积极成果;但一个严峻现实是:前沿技术的发展速度,已明显快于我们对其的理解速度。

世界上没有人能确切预知接下来会发生什么,即便是专家也莫衷一是。当不确定性巨大、利害关系空前之时,谨慎乐观地前行,是最明智的选择。

这要求公共政策既要激励创新,也要强化责任与安全;既要促进关键安全议题的国际合作,也要引导AI真正服务于社会福祉。

前沿AI标准机构框架

AI的快速进展,要求我们建立一套动态、严谨且适应性强的新评估体系,用以科学检验前沿模型的真实能力。

美国凭借其经济实力与技术积累,完全有能力率先迈出这一步——建立一个由联邦监督、公私协作的前沿AI标准机构,其运作模式可参考美国金融业监管局(FINRA)。

该机构董事会应包含独立顶尖技术专家与开源社区代表;资金主要来自产业界,以保障吸引世界级人才,并支撑大规模测试所需的算力资源。

它将负责制定并持续更新评估协议,联合联邦相关部门及国家实验室,在网络安全、生物安全、核安全等关键领域开展实证测试。

当某模型在机构设定的一系列基准中达到特定阈值,即被归类为“前沿级”;相应研发主体则成为“前沿实验室”,并被鼓励践行最佳实践:发布详尽模型卡、强化内部网络安全、实施关键人员审查、保障安全研究投入等。

初期阶段,前沿实验室将在模型发布前最多30天自愿提交模型供审查;待评估机制被验证稳健有效后,即可推进强制性落地:所有前沿模型须通过该框架认证,方可在美国市场部署。

评估内容须覆盖高风险领域的能力边界,包括但不限于网络攻防、生物威胁识别等;同时引入自主行为检测机制,识别绕过安全护栏、欺骗性输出等异常模式;并强制采用可解释性措施,如数字水印、人类可读的推理路径输出等。

所有基准将定期迭代,初期建议每季度更新一次;过时或易被优化的指标将被及时淘汰与替换。初始阶段评估标准可与实验室协商制定,但最终目标是构建完全独立于各实验室的自主测试能力,避免“刷分式优化”。

该框架还将协同政府,推动第三方审计体系建设,支持新基准开发与评估方法演进。

这一路径聚焦技术本质,既不扼杀创新,又切实激励责任行为;它能匹配AI加速发展的节奏,并随风险图谱演化而动态调适。若形势恶化,框架亦保留升级空间——例如协调前沿实验室共同放缓研发步调。

被认定为前沿实验室,是一种行业公认的权威身份,向所有达标组织开放,不分背景、国别、开源或闭源属性。未达前沿标准的小规模模型——如初创公司或高校研发项目——则无需纳入此流程。

由美国发起的这项努力,旨在为全球前沿AI治理提供坚实起点。技术无国界,风险亦无边界。理想状态下,它将推动国际共识形成,在管控最高风险的同时,确保AI红利普惠全人类。

未来尚未书写

AGI有潜力成为推动科学与医学跃迁的终极工具,带来前所未有的生产力提升与经济增长。

但要兑现这一愿景,我们必须围绕一个共享的全球框架展开协作:以最严谨的科学方法,汇聚最优秀的人才,共同夯实技术根基。

即便攻克所有技术难关,更深层的命题仍在前方:在后稀缺时代,什么样的经济结构能让每个人活得更有尊严?我们坚守的价值观是什么?人生的意义如何重新锚定?甚至,人的存在方式本身,将发生怎样的根本性转变?

这些问题绝非技术专家所能独答。它们需要全社会共同参与、持续对话、反复思辨——因为我们要定义的,不只是一个新工具,而是一个新文明的序章。

关于AI,兴奋与不安并存。这两种情绪都真实而正当。但未来尚未书写。我们手中握着一段珍贵的窗口期——在AGI真正到来之前,为全人类的福祉塑造它的形态。今天的集体选择,将决定文明下一阶段的走向。

唯有安全地把AGI带入世界,我们才能开启科学发现的新黄金时代,迎来一个人类真正繁荣的光明未来。

(10)

老王陪你看世界杯(收藏家)

美国想牵头建标准机构,也不知道能不能推动国际共识,希望别搞成一家独大。

0
高歌猛进

建立评估体系和标准机构是必要的,不然AGI市场容易乱套。

0
白夜独行

AGI能带来那么多好处,可那些深层问题也得解决,不然发展了也没意义。

0
屠龙勇士

文章想得挺长远,从技术到社会问题都考虑到了,就看实际能不能落实。

0
锅盔灌凉粉

AGI要来了?感觉挺悬,现在AI隐患就不少,还不知道以后咋样呢。

0

英伟达合作伙伴广达电脑寻求发行全球存托股票筹资不超22亿美元

人工智能服务器制造商广达电脑计划通过发行全球存托股票(GDS)筹资至多21.9亿美元。这家英伟达合作伙伴拟发行4900万份证券,每份发行价介于43.91美元至44.77美元。

澜起科技:首次回购50万股A股股份 支付金额约1.03亿元

澜起科技(688008.SH)公告称,2026年7月29日,公司通过集中竞价交易方式首次回购A股股份50万股,占总股本0.04%,回购金额约1.03亿元,价格区间为192.18元/股至210.00元/股。

北交所、全国股转公司启动全国重点专精特新企业培育专项行动

由北交所、全国股转公司联合江苏省委金融办、江苏省工信厅、江苏证监局主办,江苏股权交易中心协办的全国首场重点专精特新企业培训活动7月29日在南京举办。拉开了“全国重点专精特新企业培育专项行动”的序幕。本次活动坚持政策解读与实操指导“双轮驱动”理念,通过系统宣介工信、金融部门支持专精特新企业赴新三板、北交所挂牌上市的政策举措,深度解读区域性股权市场、新三板、北交所全链条服务专精特新企业成长的机制安排,深入剖析企业筹备挂牌上市过程中的常见问题并提供解决方案,旨在推动更多优质专精特新企业依托北交所、新三板市场实现高质量发展,完善覆盖专精特新企业成长全周期的梯度培育生态。参训企业表示,培训内容丰富务实,为企业科学规划挂牌上市路径提供了清晰可循的“导航图”。下一步,北交所、全国股转公司将发挥“工信部-交易所-地方金融部门-区域性股权市场”多方共育专精特新的服务机制,在全国范围内陆续开展专项行动系列活动,持续提升针对重点专精特新企业的管家式服务水平,为服务构建现代化产业体系和实体经济高质量发展积极贡献力量。

财通福鑫定开混合:将于7月30日开盘起至当日10:30停牌

财通基金管理有限公司公告,截至2026年7月29日上海证券交易所收盘,旗下财通多策略福鑫定期开放灵活配置混合型发起式证券投资基金(场内简称:财通福鑫定开混合,交易代码:501046)二级市场交易价格明显高于基金份额净值,出现较大幅度溢价。特此提示投资者关注二级市场交易价格溢价风险,投资者如果盲目投资,可能遭受重大损失。为维护投资者利益,本基金将于2026年7月30日开盘起至当日10:30停牌。

澜起科技:首次回购50万股A股股份,回购金额约1.03亿元

澜起科技公告,2026年7月29日,公司通过集中竞价交易方式首次回购A股股份50万股,已回购股份占公司总股本的比例为0.04%,购买的最高价为210.00元/股、最低价为192.18元/股,支付的金额总额约为人民币10276.49万元(不含佣金、过户费等交易费用)。

伊朗谴责美国沙特袭击伊拉克

据CCTV国际时讯,伊朗外交部今天(7月29日)发表声明,强烈谴责美国和沙特对伊拉克部分地区发动袭击。声明称,这些袭击侵犯伊拉克国家主权和领土完整,违反《联合国宪章》和国际法,目的是“服务于美国和以色列政权扩大西亚地区战争和冲突范围的图谋”。声明还称,袭击造成多名伊拉克民众死亡,伊朗对此表示哀悼,并重申对伊拉克政府和人民的支持。声明同时表示,美国及其地区盟友应对“这些罪恶、不人道和挑衅行为”所造成的后果承担责任。

知情人士:霍尔木兹海峡仍然完全封闭

7月29日,据伊朗媒体Fars News,一位军事知情人士表示,霍尔木兹海峡仍然完全封闭,任何船只都没有权利通过这一战略水道。任何试图通过的船只,特别是那些不理会警告的船只,将会面临果断和迅速的反应。

伊媒称美空袭伊朗与伊拉克边境地区

7月29日,据伊朗国家电视台,当地时间7月29日下午,伊朗西阿塞拜疆省皮兰沙赫尔市边境地带遭到美国空袭。

匈牙利议会投票决定取消该国关于加密货币交易验证的要求

7月29日,据The Block报道,匈牙利财政部长安德拉斯·卡尔曼(Andras Karman)表示,匈牙利议会投票决定取消该国关于加密货币交易验证的要求。这项废除措施属于一项更广泛税收方案的一部分,它取消了在进行特定加密货币兑换之前必须验证钱包所有权、资产来源及客户数据的义务。

卡布里贷款与OpenAI展开合作 将企业级AI应用于借贷业务运营

7月29日,卡布里环球资本有限公司旗下卡布里贷款与OpenAI展开合作,将企业级人工智能应用于借贷业务运营。