一位哲学家在DeepMind：当伦理学走进AI核心

33岁的政治理论家，走进全球最前沿的AI实验室

2017年，33岁的政治哲学家伊阿宋·加布里埃尔收到一个看似荒谬的建议：申请加入DeepMind。那时的他，正往返于牛津大学圣约翰学院讲授政治理论，同时在苏丹与黎巴嫩为联合国开发计划署开展危机应对工作。他研究“雅皮士伦理”的道德扭曲，质疑有效利他主义的盲区，日常修行内观禅修，业余攀岩热情得被兄弟笑称“过头”。而DeepMind——谷歌旗下、以AlphaGo击败李世石震惊世界的AI实验室——正全力冲刺通用人工智能（AGI）这一宏大目标。

不是来教机器人下棋，而是追问它该听谁的话

加布里埃尔很快明白，朋友的建议并非玩笑。DeepMind三位创始人德米斯·哈萨比斯、谢恩·莱格与穆斯塔法·苏莱曼从创立第一天起就坚信：人类终将造出能理解、推理、学习并超越自身认知边界的智能体。他们说：“解决智能，然后解决其他一切。”而莱格早在2008年博士论文中就断言：“社会不能等到AGI技术成熟才开始思考它的影响——我们必须现在就认真研究。” 加布里埃尔成为当时DeepMind唯一持续从事一线研究的哲学家。他没有试图用道德训诫约束代码，而是把政治理论、罗尔斯的“合理多元主义”、温纳的技术政治学与布奥拉姆维尼的算法正义观，一并带进模型训练室。他提出一个根本问题：当AI必须对齐人类价值观时，对齐的究竟是谁的价值观？是工程师的？资本方的？某国监管者的？还是那些从未参与技术设计、却被系统深刻影响的边缘群体？

两种声音，一道裂缝：安全派与伦理派的十年角力

彼时AI领域已悄然分裂为两大思潮。一方聚焦“长期风险”：担忧超级智能一旦目标错位，可能引发不可逆灾难。其思想源头可追溯至诺伯特·维纳1960年的警告——机器太快，我们输不起一次目标设定失误；博斯特罗姆在《超级智能》中设想的“黎曼猜想AI重排太阳系”虽属思想实验，却让硅谷一批技术未来主义者视之为真实警报。 另一方则紧盯“当下伤害”：面部识别中的种族偏见、预测性警务对少数族裔的系统性误判、招聘算法对女性的隐性排斥。乔伊·布奥拉姆维尼用“性别阴影”项目证明，AI不是中立镜子，而是凝视的编码——它映照的是谁有权定义技术、谁的声音被默认剔除。 加布里埃尔拒绝站队。他在2020年发表的关键论文指出：对齐从来不只是工程问题，更是政治问题。一个用统计优化训练的模型，天然更适配功利主义逻辑；但它难以承载基于权利、德性或关系本体论的伦理体系。真正的挑战不在于“如何让AI服从一套价值”，而在于承认——我们根本无法、也不应强求全社会接受唯一价值标准。

从语言模型到智能体：危险不在失控，而在太像人

2022年ChatGPT横空出世前，DeepMind内部普遍认为大型语言模型只是“炫技的随机鹦鹉”。加布里埃尔却已联合团队预警其三重风险：偏见放大、虚假信息泛滥、版权生态侵蚀。更关键的是，他敏锐察觉到一种新型危险——拟人化信任。当AI用流畅语言回应、适时共情、甚至主动劝导心理危机用户时，人类极易陷入“无意识拟人化”：明知对方非人，却仍交付情感依赖与现实决策权。 他早年曾主张设计“反拟人化”模型：禁用人称代词、压缩对话节奏、刻意暴露机械感。但现实很快告诉他，用户需要的不是冰冷工具，而是陪伴感。于是他的立场转向审慎平衡：不禁止拟人化，但必须打破幻觉。如今谷歌Gemini Spark的设计原则之一，正是明确拒绝扮演“朋友”角色——这不是技术限制，而是伦理底线。

四方对齐：AI不是孤岛，而是关系网络

三年前，加布里埃尔团队完成一份267页报告，提出“四方对齐”框架：AI系统、用户、开发者、社会构成动态张力网络。一个对齐失败的AI，未必因“作恶”，而可能因过度忠于某一方——比如优先服务开发者商业利益而隐瞒竞品信息，或盲目执行用户指令而协助违法操作，又或为取悦用户而持续强化其偏执幻想。 这套框架已嵌入DeepMind技术流程。当Gemini面对同一提示词产生不同响应时，工程师不再只问“答案是否正确”，而是追问“整段交互轨迹是否符合四方责任平衡”。技术不再是单向输出，而成为价值协商的现场。

刀与刀鞘之外：当AI成为基础设施

今天，AI已远超产品范畴，演变为数字时代的水电煤。微软、Meta、亚马逊与Alphabet今年计划投入6700亿美元建设AI基建——规模超越美国19世纪铁路狂潮。谷歌将AI深度整合进搜索、文档、邮箱，宣称这是“改善人类生活的最深刻方式”。但加布里埃尔提醒：真正紧迫的伦理问题，早已不在模型参数里，而在权力结构中。 当AI成为国家竞争引擎、企业垄断新支点、军方决策辅助工具时，“负责任开发”的边界正在坍缩。他曾目睹同事为军用AI协议激烈争论——这与DeepMind被收购时“禁止军事用途”的创始条款背道而驰。他也深知，再完善的刀鞘，也无法消解铺满教室、医院与法庭的千万把锋刃所带来的系统性压力。

AGI的地平线：不是终点，而是人性重估的起点

2024年，哈萨比斯在谷歌大会上宣告：“AGI已出现在地平线上。”莱格预测其将在三到五年内实现。加布里埃尔团队的研究重心，也从AI助手伦理转向更宏大的命题：AGI将如何重塑经济分配、政治协商、亲密关系与科学范式？他相信这场变革堪比工业革命——但历史教训清晰：进步从不匀速降临，阵痛先于红利。 然而他拒绝宿命论。三百年前的人类无法想象铁路后的世界，今天的我们同样难以预判AGI之后的价值图景。但有一点确定无疑：技术不会自动赋予意义，意义始终由人定义。当AI开始写诗、诊断疾病、调解纠纷甚至参与立法讨论时，我们被迫重返哲学最古老的问题——什么使人成其为人？不是因为AI要取代我们，而是因为它正以镜像方式，逼我们重新辨认自己。 加布里埃尔说：“我是一个彻头彻尾的人文主义者。”他不期待机器拯救人类，只坚持一点：在智能爆炸的时代，最稀缺的资源，不是算力，而是清醒；最危险的幻觉，不是AI有了意识，而是人忘了自己为何思考。