机器心脏编辑部门 7月26日下午，人工智能教父杰弗里·辛顿（Jeffrey Hinton）与高密度的凝结智慧与上海人工智能研究所的主任兼科学家校长朱·鲍恩（Zhou Bowen）教授推动了欣顿（Hinton）前往上海的旅行，以达到新的高潮。 现年77岁的杰弗里·辛顿（Jeffrey Hinton）飞到海边，第一次登上了中国。当他进入这个地方时，观众站起来并老化。观众举起了几分钟。有一次，在现场广播中看不到舞台上的客人。在17分钟的对话中，两位科学家讨论了AI的多模型，“主观体验”和“意识”，“良好”超级智能，AI和科学发现以及对年轻科学家的建议。 这次与上海人工智能研究所主任周·鲍恩（Zhou Bowen）的对话是唯一针对人工智能研究人员和前卫科学家的对话红外旅行到中国的欣顿。 在对话之前，周·鲍恩（Zhou Bowen）代表上海人工智能研究所（Institute of Shanghai）发表了开幕词，“边境无限：阿吉和科学的十字路口”，介绍了“通用AGI”通行证，并推出了该模型中世界上主要的科学多模式模型。 GROK4和其他封闭的Avant -Garde代码模型。 完整的对话如下所示。 周·鲍恩（Zhou Bowen）：杰夫（Jeff），很荣幸能把我们所有人都在这里。我想问一个我本周早些时候提到的一个问题，但是我没有时间讨论今天早晨的阶段，即有关多模型模型的主观体验。我认为我们可以证明，即使是多模式和语言模型也可以发展自己的主观经验。您能详细解释吗？ 欣顿：关于它们是否具有发育意识或主观骚扰的问题不是严格的科学问题，而是它们如何定义“主观经验”或“意识”。“我们大多数人都有一个完全不正确的模型来理解这些概念。它对单词的工作方式完全不正确，以便人们可以正确使用单词。 让我们以每日词汇的示例来说明。戴上“水平”和“垂直”单词。大多数人认为他们理解自己的意思，但他们确实理解了这一点。让我尝试一下：假设我手中有许多小铝杆，并朝各个方向定向。我把它们扔到空中，滚动并相撞，突然我停了下来。 在这个时空和时间上有许多铝棒。问题是，它是在程度的垂直范围内的铝杆，还是在水平范围内的铝杆？还是Samenumber？几乎每个人都说“几乎”。因为对单词如何工作的理解是错误的。实际上，水平铝杆的数量约为垂直方向的114倍。这是因为“垂直”是一个非常特殊和“水平”“方向非常正常。但是人们不知道这一点。 这个示例似乎与意识问题无关，但它表明对单词如何工作的理解是完全不正确的。同样，几乎每个人都在诸如“主观经验”之类的术语上具有强大但完全不正确的理论。这不是一个真正的科学问题，而是源于错误的精神状态模型。这些术语用于描述精神状态的工作方式。而且我认为他会用不正确的模型做出错误的预测。因此，我的观点是今天的多模式聊天机器人已经知道。 周·鲍恩（Zhou Bowen）：这听起来令人震惊的是许多研究人员，但是告诉我们您在这次会议上从另一位加拿大科学家那里听到了什么。我认为这意味着，当人类数据耗尽时，模型可以从自己的经验中学到很多东西。从另一个角度来看，我们解释说，多模式代理或LLM不仅可以从经验中学习，还可以但也发展独特的主观体验。因此，我认为理查德（Richard）没有太多能够从当今的主观经历中学到的潜在风险。您想谈谈这个吗？到目前为止，代理商学习了主观经验。他可以做到这一点，还是他的理论，他的假设，它会代表未来的潜在风险吗？ 欣顿：当然，当前情况是，例如，大型语言模型从我们提供的文档中学习。他们学会了预测以下词的话：但是，如果我们在机器人世界中有代理商，我认为我可以从他们自己的经历中学到的东西，最后他们会比我们学得更多。我认为他们有经验，但经验不是什么。经验不像照片，经验是您与对象之间的关系。 周·鲍恩（Zhou Bowen）：几天前，当我们讨论爱达伊斯的先锋风险时，您提到了可能降低风险的解决方案我将来。例如，AI的类型，智能。你有一个理论... 欣顿：我不是那个。换句话说，您有一个聪明而友好的AI，但是如何训练它是聪明的以及如何训练它是另一回事。您可以拥有使其善良和技术使其更聪明的技术。它是相同的AI，但是有多种技术。因此，即使国家不愿共享使它们更聪明的技术，各州也可以共享友好的技术。 周·鲍恩（Zhou Bowen）：我真的很喜欢这个主意。没有禁运，我就有一个疑问，我可以在这方面走多远。您是否认为正在对AI进行一般培训来创建AI类型？这些方法可以应用于AI模型，是否有任何智能？ 欣顿：那就是我想要的。那可能不是真的。但这是一种可能性。我认为我们应该调查这种可能性。 周·鲍恩（Zhou Bowen）：是的，是的。我问了这个问题，不是因为我不喜欢这个想法，而是因为我想要提高意识，以便越来越多的人可以朝您提到的方向进行更多调查。我想在这里进行类比，向您展示为什么我有这个问题。以物理为例，牛顿定律意味着在较低速度移动时有效的声音对象。但是，如果一个物体在光速附近以高速移动，牛顿定律将不再适用，因此我们必须考虑爱因斯坦一个更好的解决方案。顺便说一句，这有点有趣，我已经在诺贝尔物理学奖获得了关于物理学101（大学物理学简介）的会议。 欣顿：但这是一个错误。 周·鲍恩：啊，不，这不是一个错误。您绝对应该获得诺贝尔奖。 欣顿：他们确实想在人工智能领域获得诺贝尔奖，但没有奖品。在那里，他们获得了人工智能物理奖（科学家）。 周·鲍恩（Zhou Bowen）：但是我想用这个类比来解释观点。我用不同级别的智能系统墨水，您可能必须改变诚实的限制。我不确定这是否正确，但我希望这个房间和青年在线能够找到实现这一目标的方法。 Hinton：是的，随着系统变得更聪明，有可能使其更友好地改变的技术。我不知道。这就是为什么我们现在需要研究这个批次的原因之一。 周·鲍恩（Zhou Bowen）：许多人对杰夫（Jeff）印象深刻。作为一个取得出色成就的人，您经常说：“我不知道。”我认为这是非常诚实和启发性的。我们都想向您学习。 除了AI问题外，该网站上还在几个科学领域中最好的一半学者：量子物理学，生物学等。因为我们认为当今AI和科学的相互融合会导致进步。您如何看待使用AI促进科学进步或使用科学来促进AI的发展？ 欣顿：我想人工智能对科学的帮助很明确。显然，有史以来最令人印象深刻的例子是蛋白质的折叠。 Demis Hassavis和John Jumper等人对此进行了测试。通过合理地使用人工智能和许多努力。他花了五年。所有人都是非常聪明的人。蛋白质折叠是关于预测折叠的，您可以更好地做（使用AI）。我认为这是一个早期的迹象，即AI将在当今许多领域改善科学。我听说过上海AI实验室的例子。足以预测tifone和气象预测的着陆位置。 。 周·鲍恩（Zhou Bowen）：是的，使用AI模型创建的结果比基于传统PDE的物理模型（部分微分方程系统）更好。 周·鲍恩（Zhou Bowen）：杰出的研究不仅扩大了人工智能技术的局限性，而且对下一代科学研究人员产生了深远的影响。我已经与许多年轻的学者交谈，每个人都可以培养你。在上海人工智能学院，研究人员只有30年的历史了。这清楚地表明，AI的未来属于最年轻的一代。 （看看存在的年轻研究人员）他们的智慧在这些年轻的面孔上闪耀。您是Happy De Share：您对下一代AGI有何看法？还是他们愿意向这些年轻人提出一些有关增长加速的建议？ 您想最多传达什么？ Hinton：Core的建议是，如果您想进行真正的原始调查，则必须寻找一个“每个人都可以做错事”的领域。总的来说，当他认为“每个人都是错误的”时，最终会发现探索后传统方法的合理性，但这表明除非您真正理解它们不起作用，否则不应轻易地放弃新想法。即使教练拒绝他的方法，也继续进行问题。 给自己y您相信，直到您了解为什么这是错误的。有时，您将继续坚持自己的信念，并最终被证明是。这是巨大进步的起源，他们从不属于轻松表演的人。即使其他人不同意，您也必须履行自己的意见。 此视图中有逻辑。你有好是坏直觉。 如果您的直觉很好，显然您需要呆在上面。 如果您的直觉是马拉诺，那么您的工作很重要。您仍然需要坚持直觉。 周·鲍恩（Zhou Bowen）：我想我们可以整天谈论那个，但我知道你很累。最后，这里的每个人都在这里感谢Jeff致力于我们的时间。太感谢了！ 官方NINA Finance帐户 24-最新信息和财务视频的流离失所，以及扫描QR码以关注更多粉丝（Sinafinance）