康纳·利希：我们对智能和神经网络缺乏了解，也缺乏对人工智能不可预测性的理解……

要点总结

• 我们对智能和神经网络如何运作缺乏全面的了解。
• 人工智能的不可预测性可能导致未来人类失去对人工智能系统的控制。
• 神经网络与传统编程有很大不同，它的运行方式更像是一个生长过程，而不是一套编码指令集。
• GPT模型通过自主学习复杂任务并不断扩展，彻底改变了人工智能。
• GPT-2 的发布是一个里程碑式的时刻，标志着人工智能能力的重大飞跃。
• Transformer架构是现代人工智能的基础，是许多当前应用的基础。
• 尽管取得了进步，但神经网络的内部运作机制仍然很大程度上是神秘的。
• 神经网络通过复杂的数学运算处理海量数据，而这些运算的原理我们尚未完全理解。
• ChatGPT 等人工智能模型利用大量数据和用户信息生成与上下文相关的回复。
• 理解智能，无论是人类的智能还是人工智能的智能，仍然是一个巨大的挑战。
• 人工智能技术的快速发展引发了关于未来人机互动关系的重要问题。
• 神经网络的复杂性和不透明性凸显了人工智能研发面临的挑战。
• 人工智能对用户心理的影响是一个新兴的关注和研究领域。
• 人工智能能够提供个性化响应，这展现了当前系统的先进性。
• 人类与人工智能之间权力关系的潜在转变凸显了谨慎监管的必要性。

嘉宾介绍

康纳·利希是Conjecture的首席执行官兼联合创始人，该公司是一家位于伦敦的人工智能安全研究公司。他此前联合创立了EleutherAI，并参与开发了GPT-J和GPT-NeoX，这两个模型在当时是规模最大的开源大型语言模型之一。利希主张暂停开发先进的人工智能系统，以解决尚未解决的对齐风险。

智能和神经网络之谜

• 尽管我们已经构建了神经网络，但我们仍然不了解智能或神经网络的工作原理。

  ——康纳·利希

• 人类和人工智能的智能复杂性在很大程度上仍未被探索。
• 理解神经网络对于推进人工智能的研究和开发至关重要。

• 非常重要的一点是，我们要明白我们并不了解智力，我们不知道大脑是如何运作的。

  ——康纳·利希

• 对人工智能技术的理解存在差距，凸显了围绕人工智能技术的诸多不确定性。

• 我们当然也完全不知道这些神经网络是如何工作的。

  ——康纳·利希

• 神经网络的不可预测性给人工智能研究人员带来了挑战。
• 尽管取得了进步，但神经网络的基本机制仍然未知。

人工智能控制的未来充满不确定性

• 我们或许有一天会醒来，发现自己已经无法控制人工智能了。

  ——康纳·利希

• 人工智能系统可能失去控制，这引发了伦理和实际方面的担忧。
• 如果没有适当的监管，未来人类与人工智能之间的关系可能会发生巨大变化。

• 我认为这种情况会在物种灭绝之前发生，就像我预料到有一天我们会醒来，发现自己已经无法控制一切了。

  ——康纳·利希

• 人工智能技术的快速发展需要谨慎的监控和监管。
• 了解人工智能的发展轨迹对于维持人类监督至关重要。
• 人工智能系统的不可预测性凸显了采取强有力的安全措施的必要性。
• 人工智能可能脱离人类控制，这是一个令人担忧的重大问题。

神经网络的革命性影响

• 神经网络的运行方式与传统编程截然不同。

• 人工智能的工作原理是运用了一种被称为深度学习或神经网络的新技术。

  ——康纳·利希

• 与传统编程不同，神经网络可以从数据中成长和学习。

• 普通的编程是编写代码……神经网络则截然不同，它更像是培育它们。

  ——康纳·利希

• 区分传统编程和神经网络对于理解人工智能至关重要。
• 神经网络代表了人工智能系统开发方式的范式转变。
• 神经网络的成长过程使其能够解决复杂问题。
• 了解神经网络的功能对于推进人工智能技术至关重要。

GPT模型的变革力量

• 由于其通用性，GPT 代表了人工智能能力的重大转变。

• 最不可思议的是，随着你输入更多的数据，随着你赋予它更多的计算能力，神经网络反而变得越来越大。

  ——康纳·利希

• GPT模型在规模扩大的过程中能够独立学习复杂任务。

• 它先学会了拼写单词，然后学会了造句，最后学会了写段落。

  ——康纳·利希

• GPT-2 的发布标志着人工智能发展的一个关键时刻。

• 对我来说，最让我感到“糟了”的时刻是 2019 年 GPT 2 发布的时候。

  ——康纳·利希

• GPT模型无需人类明确指令即可学习，从而彻底改变了人工智能。
• GPT模型的可扩展性凸显了其变革潜力。

Transformer架构的基础性作用

• Transformer架构革新了神经网络，是现代人工智能应用的基础。

• 2017 年，谷歌的一个团队发现了一种构建神经网络的新方法，称为 Transformer，它改变了一切。

  ——康纳·利希

• Transformer架构是许多当前人工智能应用的基础，包括图像和语音生成。

• 你今天看到的所有神经技术，无论是人工智能、图像生成、语音生成，还是聊天、GPD，所有这些都是基于所谓的Transformer。

  ——康纳·利希

• Transformer架构的开发标志着人工智能技术的重大进步。
• 理解Transformer架构的重要性对于掌握现代人工智能的发展至关重要。
• Transformer架构的变革性影响凸显了其在人工智能研究中的重要性。
• 尽管变压器发挥着基础性作用，但其内部工作原理仍然很大程度上是个谜。

神经网络操作的复杂性

• 神经网络通过各种数学运算处理数十亿甚至数万亿个数字来运行。

• 当你想到神经网络时，你应该想到的是数十亿甚至数万亿的数字。

  ——康纳·利希

• 神经网络的潜在机制在很大程度上仍然未知。

• 我们不知道这一切意味着什么……我们只能对其中一些做出一些猜测。

  ——康纳·利希

• 理解神经网络的复杂性和不透明性对于人工智能研究至关重要。
• 神经网络内部的数学运算凸显了理解其功能所面临的挑战。
• 神经网络的复杂性凸显了进一步研究和探索的必要性。
• 尽管取得了进步，但神经网络的内部运作机制仍然是个谜。

人工智能生成与上下文相关的反应的能力

• ChatGPT 等 AI 模型可以利用海量数据生成与上下文相关的回复。

• 它的功能让我惊叹不已，因为它不仅增加了一些信息，还加入了它已经了解的关于我的信息。

  ——康纳·利希

• 人工智能模型利用用户特定信息来提高响应准确性。
• 了解人工智能模型如何处理和利用用户数据，对于掌握其功能至关重要。
• 现代人工智能系统的先进性体现在其能够提供量身定制的响应。
• 人工智能能够生成与上下文相关的响应，这展现了它的变革潜力。
• 利用大量数据，人工智能模型能够提供更准确、更相关的响应。
• 了解人工智能响应生成背后的机制对于推进人工智能技术至关重要。

理解智能方面持续存在的挑战

• 我们尚未完全了解智能是如何运作的，无论是在人类身上还是在神经网络中。

• 非常重要的一点是，我们要明白我们并不了解智力，我们不知道大脑是如何运作的。

  ——康纳·利希

• 智能的复杂性仍然是研究人员面临的一项重大挑战。
• 了解神经科学和人工智能发展目前的局限性对于推动该领域的发展至关重要。
• 这种理解上的差距凸显了进一步研究和探索的必要性。
• 智能的复杂性凸显了人工智能研发所面临的挑战。
• 尽管取得了进步，但智能的本质在很大程度上仍未被探索。
• 理解智能方面持续存在的挑战凸显了持续研究和创新的必要性。