以太坊：Vitalik主张以开源方式治理AI
摘要
以太坊联合创始人 Vitalik Buterin 近日谈及 AI 治理时表示，先进 AI 不应由少数大型公司或政府集中掌控。他主张采用更开放、去中心化的治理方式，以降低权力过度集中的风险。 围绕 AI 发展速度分成两派 Buterin...
以太坊联合创始人 Vitalik Buterin 近日谈及 AI 治理时表示，先进 AI 不应由少数大型公司或政府集中掌控。他主张采用更开放、去中心化的治理方式，以降低权力过度集中的风险。
围绕 AI 发展速度分成两派
Buterin 说，当前推动 AI 发展的支持者大致分成两类。一类主张加快推进 AI 演进，另一类则强调应设置更强的安全防护。
他认为，双方都绕不开同一个问题：超级智能 AI 何时会成为现实。按他的转述，其中一派相信，除非开发被主动放缓，否则超级智能最早可能在 2040 年前后甚至更早出现；另一派则认为，AI 虽然影响深远，但仍可在不采取激烈干预的情况下被管理。
不支持少数机构掌握决定权
Buterin 表示，他并不认同把过多权力交给少数组织的方案。在他看来，如果由少数 AI 公司或政府决定谁可以开发先进 AI 系统，本身也会带来新的风险。
他的担忧在于，治理 AI 的名义可能演变为对技术开发权的集中控制，而这种集中化安排未必比技术风险本身更安全。
倾向开源，也接受放缓讨论
在治理路径上，Buterin 更倾向于开源方案。他认为，更开放的技术与治理结构，比由少数主体主导的模式更可取。
不过，他也没有完全排除放缓 AI 开发的可能性。Buterin 表示，如果出现严重威胁，他愿意讨论减速甚至暂停开发等做法。
整体来看，他并未完全站在“加速派”或“强监管派”任何一边，而是把重点放在如何避免 AI 治理权过度集中。
评论 (6)
这讨论太复杂，啥时候超级智能能成现实都没定论呢。
想法挺新颖，开源治理AI能防止权力集中，不过实施起来难度不小。
不支持少数机构掌权是对的，集中控制容易出问题。
主张开源好呀，避免少数人掌控，AI发展才更健康。
开源方案是不错，但也得考虑下开发速度放缓的影响。
他没站边挺好，重点抓治理权集中问题才是关键。