伊利亚·波洛苏欣：人工智能将取代传统操作系统，区块链将成为信任的根基……

要点总结

• 使用传统人工智能服务可能会泄露敏感信息，凸显了严重的安全隐患。
• 区块链可以促进人工智能中的数据标注和众包，从而提高效率。
• 人工智能将从根本上改变我们与计算机交互的方式，并有可能取代传统的操作系统。
• 人工智能将作为连接各种服务（包括金融服务）的接口，实现无缝连接。
• 区块链作为人工智能基础设施的信任根基，能够实现安全的身份管理。
• 随着人工智能加速推动对资源协调市场的需求，资金变得越来越重要。
• 人工智能将弥合传统系统和基于区块链的系统之间的差距。
• 人工智能可以通过处理程序性任务来促进与传统官僚机构的互动。
• 目前人工智能领域的特点是愿景丰富但实用性不足。
• 安全性是开放式爪系统发展中最大的瓶颈。
• 管理人工智能系统的访问权限和信任关系对于防止滥用至关重要。
• Near.ai 正在开发一种私有 AI 解决方案，以确保 AI 推理过程中用户数据的隐私。
• 用户拥有的人工智能确保个人对其所交互的人工智能系统拥有控制权和透明度。
• Ironclaw 为运行 AI 模型提供了一个安全的环境，从而保护用户数据。
• 对英特尔和英伟达等硬件供应商的信任是计算机安全运行的基础。

嘉宾介绍

伊利亚·波洛苏欣是NEAR协议和NEAR基金会的创始人兼首席执行官。他与人合著了开创性论文《注意力机制至关重要》，该论文介绍了现代人工智能系统的基础架构Transformer。他的工作致力于将人工智能与区块链相结合，从而实现可扩展、安全的AI代理，例如IronClaw。

使用传统人工智能服务的风险

• 使用传统人工智能服务可能会泄露敏感信息，包括访问密钥和令牌。
• “人们在使用 Entropic OpenAI，或者更糟糕的是，使用其他推理工具时，往往没有意识到 OpenCloud 实际上也会将你所有的密钥发送给这些服务……我们这样做简直太疯狂了。”——伊利亚·波洛苏欣
• 了解使用第三方人工智能服务的相关风险对于数据安全至关重要。
• 加密货币为全球支付提供了一种天然的解决方案，无需传统银行业务的复杂性。
• “加密货币实际上是我们解决自身问题的一种非常自然的解决方案……你可以通过互联网直接给别人转账。”——伊利亚·波洛苏欣
• 人工智能和区块链的交叉融合早在它们成为主流之前就被认为具有重要意义。
• “我的意思是，最关键的是计算能力不足……一旦这个问题得到解决，这种模式才开始发展壮大。”——伊利亚·波洛苏欣
• 区块链可以促进人工智能中的数据标注和众包，从而提高流程效率。
• “想想规模化人工智能……那其实就是一份智能合约。我们Nearcrowd自2021年起就一直在运营，而且它没有一名员工。”——伊利亚·波洛苏欣

人工智能和计算的未来

• 人工智能将从根本上改变我们与计算机交互的方式，并有可能取代传统的操作系统。
• “我的主要论点是，人工智能将成为我们与计算机交互的方式……计算机将编写所有代码，这意味着操作系统和应用程序将被人工智能取代。”——伊利亚·波洛苏欣
• 当前操作系统的服务架构需要升级，以适应人工智能交互。
• “很多东西在人工智能时代都会出问题，所以你需要修复它们，阻止改动，并且要把所有环节都搞清楚，或者至少要有工具来找出解决办法。”——伊利亚·波洛苏欣
• 人工智能最终将取代传统操作系统，创造更加一体化的用户体验。
• “我认为它会从小规模开始……最终可能就像你的手机内置人工智能……它能提取所需的任何组件，并组合出你需要的软件。”——伊利亚·波洛苏欣
• 人工智能将作为连接各种服务（包括金融服务）的接口，实现无缝连接。
• “如果人工智能是接口，那么你所描述的区块链和加密货币等一切都是服务的组成部分。”——伊利亚·波洛苏欣

区块链作为人工智能的信任根

• 区块链作为人工智能基础设施的信任根基，能够实现安全的身份管理和协议升级。
• “区块链确实是信任的根基……它具有可升级性，而这种可升级性是由整个协议共同控制的。”——伊利亚·波洛苏欣
• 人工智能是用户界面，而区块链则充当后端协调中心。
• “我通常说人工智能是用户界面，区块链是后端。”——伊利亚·波洛苏欣
• 区块链提供了一种去中心化的系统升级方法，这与集中式控制形成对比，在集中式控制中，单个实体可以强加更改。
• “区块链让我们能够达成更广泛的协议来升级到更高版本……但如果微软内部某个掌握密钥的人决定搞垮所有人，或者窃取所有人的信息，他们也能做到。”——伊利亚·波洛苏欣
• 随着人工智能加速发展，市场对各方可以协调资源和信息的需求日益增长，金钱也变得越来越重要。
• “金钱是极其重要的因素，归根结底，我们的资源有限，欲望却无限，而人工智能只会加速这一趋势。”——伊利亚·波洛苏欣

人工智能在连接传统系统和区块链系统中的作用

• 人工智能将弥合传统系统和基于区块链的系统之间的差距。
• “我看到他们都在使用同样的系统……人工智能真正弥合了这一差距……它实际上可以代表你完成所有这些工作。”——伊利亚·波洛苏欣
• 人工智能可以通过处理程序性任务来促进与传统官僚机构的互动。
• “人工智能必要时可以直接打电话给房产中介……它可以起草合同……然后通过电子邮件发送给公证人进行公证。”——伊利亚·波洛苏欣
• 目前人工智能领域的特点是创意丰富但实用性不足。
• “目前人工智能领域就像各种讨论一样，充斥着大量的愿景，却缺乏实用性，我认为这种现象随处可见。”——伊利亚·波洛苏欣
• 人工智能缺乏实用性，部分原因是企业不愿提供人工智能系统有效运行所需的必要背景和信息。
• “另一方面，没人愿意真正给予它成为你真正员工所需的所有背景信息、知识和权限，因为大家害怕它会把事情搞砸。”——伊利亚·波洛苏欣

人工智能系统中的安全和隐私

• 安全性是开放式爪系统发展中最大的瓶颈。
• “我认为，从更广义的角度来看，安全问题（不仅仅是某个特定领域的安全问题）才是目前最大的瓶颈。”——伊利亚·波洛苏欣
• Ironclaw 旨在利用区块链原理创建一个安全的操作系统。
• “这就是我们创办 Ironclaw 的原因，我们想探讨的是，如何构建一个真正安全的系统？如何利用我们在区块链领域积累的所有知识，并将这些原则应用到我们这里？”——伊利亚·波洛苏欣
• 目前 Open Claw 的状态类似于移动操作系统取得重大突破之前的“PalmPilot 时刻”。
• “我觉得Ironclaw就像是移动操作系统领域的iOS时刻，我们现在有点像正处于PalmPilot时刻。”——伊利亚·波洛苏欣
• 管理人工智能系统的访问权限和信任关系对于防止滥用至关重要。
• “如果我们建立密钥管理系统，你肯定不会把所有DAO资金的完全访问权限交给一个人，对吧？你会说，嘿，你可以花这么多钱，但需要获得批准。”——伊利亚·波洛苏欣

人工智能隐私和用户控制方面的创新

• Near.ai 正在开发一种私有 AI 解决方案，以确保模型提供商和硬件提供商在 AI 推理过程中都无法访问用户数据。
• “过去一年，near dot ai 一直在研究如何实现私有化 AI，也就是如何提供既不涉及模型提供商也不涉及硬件提供商的 AI 服务，从而确保你使用 AI 推理的数据不会被他们访问。”——伊利亚·波洛苏欣
• 人工智能的未来不会是每个人都在家里运行一台电脑，就像不是每个人都运行一个区块链节点一样。
• “如果我听到有人说，‘没错，这就是人工智能的未来，每个人家里都会有一台电脑来运行人工智能助手’，我就会想起……我之前说过，每个人都会在自己家里运行一个节点，这就是区块链的未来，但事实证明并非如此。”——伊利亚·波洛苏欣
• 用户拥有的人工智能确保个人对其与之交互的人工智能系统拥有控制权和透明度。
• “我的想法是，你应该知道你使用的是哪个人工智能模型，你应该能够访问系统提示符，你应该能够做到所有这些事情。当然，大多数用户不会这么做，但体验应该非常简单。”——伊利亚·波洛苏欣
• 由区块链协调的去中心化GPU计算可以增强人工智能操作的隐私性和安全性。
• “实际上，我们底层拥有一个由区块链协调的去中心化GPU计算平台，硬件供应商可以加入并有效地列出他们的硬件，他们以保密模式进行部署。”——伊利亚·波洛苏欣

Ironclaw在人工智能安全领域的潜力

• Ironclaw 为运行 AI 模型提供了一个安全的环境，从而保护用户数据。
• “你们提供的是一个完整的、自主的替代方案，基本上可以在一个拥有安全隔离区的环境中运行 IronClaw，用于存储所有机密信息，然后推理 LLM 可以实现机密的云端多方通信……它是保密且私密的。”——伊利亚·波洛苏欣
• 目前向人工智能提供商发送敏感数据的做法既不安全又存在问题。
• “我们这么做简直太疯狂了……你所有的秘密数据……都被发送到人类托管的服务器上……太糟糕了。”——伊利亚·波洛苏欣
• 对英特尔和英伟达等硬件供应商的信任是计算机安全运行的基础。
• “签名是由硬件本身完成的，所以我们对硬件供应商，比如英特尔和英伟达，抱有一定的信任。”——伊利亚·波洛苏欣
• 可信执行环境 (TEE) 的开销通常小于 5%，通常在 1-2% 左右。
• “T恤衫的实际开销以及所有加密解密操作的开销通常不到5%，大约在2%到1%之间，具体取决于模型大小和网络情况。”——伊利亚·波洛苏欣

人工智能在组织效率中的作用

• 目前的人工智能代理还不能取代人类员工，并且在上下文记忆和信任方面存在局限性。
• “它绝对不能取代员工，但在很多方面又不如人。”——伊利亚·波洛苏欣
• 目前的AI系统不能被信任处理私人数据或外部信息，因此需要改变工作流程管理方式。
• “我指的是我们目前面临的另一个限制，所以是的，你不能信任它来保存秘密，不能信任它来保存私人数据，而且现在你也不能信任它来读取互联网数据。”——伊利亚·波洛苏欣
• 工作流程的设计需要让人工智能能够在最少的人工干预下运行，专注于日常任务。
• “工作流程需要彻底改变，不再是别人告诉你该做什么，而是你自己去设置这些工作流程，我们称之为例程，它们会自动运行。”——伊利亚·波洛苏欣
• 人工智能可以通过提供详细分析和识别组织瓶颈来担任幕僚长或助理的角色。
• “它越来越像幕僚长，越来越像助理，越来越像实习生，负责一些以前会外包出去的特定工作……它确实会进行全面的研究，让我明白‘嘿，这是路线图，这是瓶颈，这是潜在风险’。”——伊利亚·波洛苏欣

人工智能能力的演变格局

• 目前人工智能上下文长度的限制阻碍了其处理大量信息的有效性。
• “上下文长度……你看到所有中心论者推动了一百万个对话上下文……这只会让它变得愚蠢十倍。”——伊利亚·波洛苏欣
• 随着训练数据的增多，人工智能的进步将提高其处理更长时间上下文交互的能力。
• “现在确实有数据可以用来训练这种远距离探测。”——伊利亚·波洛苏欣
• 人工智能模型需要与人类经验相当的上下文信息才能做出有效的决策。
• “当我们讨论人工智能代理为我们做事时所受到的限制时，我们需要它能够从一个可比拟的数据库中提取信息，这个数据库应该相当于人类的经验水平，涵盖了人类过去所有做过类似事情的情况，以及他们现在因为吸取了教训或形成了直觉而不再做同样事情的经验。”——伊利亚·波洛苏欣
• 人工智能模型需要庞大的上下文信息窗口才能有效地学习和利用信息。
• “上下文窗口必须尽可能大……它已经具备在上下文中学习的能力，这就是上下文学习的概念……所有这些都填充了它的上下文，而现在……在某个时刻，它会说，好吧，我脱离了上下文，现在要进行下一步思考，我需要清理掉一些无关紧要的东西。”——伊利亚·波洛苏欣

人工智能和组织结构的未来趋势

• 编码瓶颈已经从编写代码转移到协调和审查代码。
• “现在的瓶颈实际上在于对所有信息进行序列化审核，确保所有内容都与产品保持一致等等，因此协调成了瓶颈。”——伊利亚·波洛苏欣
• 为了应对日益增长的并行执行需求，各组织需要转型为更加市场化的结构。
• “我们实际上认为，组织机构也需要向更市场化的经济模式转型。”——伊利亚·波洛苏欣
• 零工经济模式可以应用于组织内部，以提高效率和执行力。
• “这就像公司内部的零工经济，你可以说，嘿，我只需要完成这项工作，这是我的成功标准，然后谁完成了，谁就能拿到报酬。你知道，董事会的这种运作模式意味着团队规模非常小。”——伊利亚·波洛苏欣
• 小团队的效率和竞争激烈的市场环境可以带来更好的任务执行效果。
• “我认为，此次合作的制胜之处在于小型团队以及这种可以外包更多执行工作、且易于验证的通用市场模式。”——伊利亚·波洛苏欣

自主人工智能代理的潜力

• 随着人工智能代理能力的提升，我们可能会看到从自动化代理向更自主的代理转变。
• “我认为我们会看到这些现象逐渐出现，随着核心能力，尤其是情境感知能力的提升，系统会越来越好用……随着这些智能体能力的增强，我们可以想象，人类可能会选择放任他们的智能体自由行动。”——伊利亚·波洛苏欣
• 人工智能体既可以以竞争模式运行，也可以以合作模式运行，这会影响它们的有效性。
• “它可以是合作式的，在这个过程中，成员们拥有共同的目标，如果达成共同目标，奖励就会在所有成员之间分配，这样他们就会互相帮助。”——伊利亚·波洛苏欣
• 去中心化的基础设施允许创建能够独立运行以完成特定任务的自主代理。
• “你实际上可以启动它，然后你知道智能合约可以支付推理和计算费用，你就能拥有某种程度的完全自主权。”——伊利亚·波洛苏欣
• 未来将出现由人工智能驱动的自主企业，它们拥有特定的使命，例如应对全球性挑战。
• “更有趣的是，我们该如何解决全球变暖和气候变化问题呢？我们设立了一个这样的机构，它有自己的使命，可以接受捐款，可以通过代币筹集资金。”——伊利亚·波洛苏欣

区块链在人工智能治理中的作用

• 区块链将作为人工智能的治理基础设施，以防止有害行为。
• “我认为区块链最终会成为人工智能的治理基础设施，因为……当人工智能想要做一些坏事时，它会反过来影响区块链本身的治理。”——伊利亚·波洛苏欣
• 人工智能治理的未来可能涉及用于去中心化自治组织的特定代币。
• “你可以把它创建成类似子框的东西，每个子框里都有一个代表特定人工智能自主代理的令牌，例如，我们称之为去中心化自治组织（Decentralized Automobile Organization）。”——伊利亚·波洛苏欣
• 关于人工智能与人类的讨论是微妙的，需要在加速和减速之间取得平衡。
• “我认为真正的讨论要复杂得多……人们很容易把加速和减速割裂开来。”——伊利亚·波洛苏欣
• 在后通用人工智能时代，人与人之间的互动将会回归到更真实的现实世界。
• “我认为我们实际上会在某些方面回归到更贴近现实的人性化事物。”——伊利亚·波洛苏欣

人工智能与人类价值观的交汇

• 自动化和人工智能的日益普及将使人类提升自身价值，而不是降低个人价值。
• “我认为另一方会说，是的，我不认为我们作为人类，以及社会中的经济力量，会朝着这种现实发展，比如更高层次的智能会自行其是。”——伊利亚·波洛苏欣
• 体育运动虽然不能为GDP做出贡献，但却能提供个人满足感和娱乐，凸显了人类体验的价值。
• “体育本身并不能创造GDP……它对参与者来说极具成就感，对其他人来说则是一种娱乐。”——伊利亚·波洛苏欣
• 我们应该建立能够抵御政府权力过度扩张和监控的制度。
• “我们应该防范这种情况，我们应该构建能够抵御这种风险的系统，这正是我们最初进入区块链领域的原因。”——伊利亚·波洛苏欣
• 人工智能行业对加密货币的价值主张不屑一顾。
• “为什么感觉他们对加密货币的态度近乎轻蔑或不尊重，或者说不欣赏我们带来的某些价值主张？”——伊利亚·波洛苏欣

弥合人工智能与加密货币之间的鸿沟

• 如果不加以干预，人工智能将走向集中化，最终落入专制政权的控制之下。
• “否则它就会权力集中，落入某种威权主义陷阱，你知道，就是某个大党掌握了控制所有这些权力。”——伊利亚·波洛苏欣
• 人工智能专业人士在涉足加密货币领域时面临的挑战是，由于加密货币领域的准入门槛低，很难过滤掉噪音。
• “加密货币领域几乎没有准入门槛，这从赋能的角度来看固然很好，但也意味着对于那些想要了解内情的人来说，很难过滤掉各种噪音。”——伊利亚·波洛苏欣
• 由于人工智能社区内部存在负面看法和文化分歧，弥合人工智能和加密货币之间的差距需要时间。
• “要挽回这种糟糕的名声还需要一些时间。”——伊利亚·波洛苏欣
• 加密货币与人工智能的交叉领域是创造新型网络效应的一个很有前景的领域。
• “我认为，将加密货币与人工智能相结合，就能创造出有趣的网络效应，也能创造出捕捉信息的新方法。”——伊利亚·波洛苏欣

问题在创新中不断演变的角色

• 在当前形势下，问题的重要性正在超过执行力。
• “我认为我们现在所处的时代，问题本身比执行更重要。”——伊利亚·波洛苏欣
• 人们的观念正在向那些能够有效阐述和检验自己假设的、具有创意驱动型人才转变。
• “我认为风向正在向有想法的人转变，但不仅仅是那些天真的想法者……你其实可以检验所有这些想法。”——伊利亚·波洛苏欣
• 明确成功标准对于有效利用工具扩大执行规模至关重要。
• “实际上，它是在定义成功标准，明确对它来说什么才是重要的，然后它就可以执行一系列操作，进行尝试，并向你反馈信息。”——伊利亚·波洛苏欣