原作：梅拉妮·米切尔 /Gemini翻译/ 我们应该如何看待当今大型语言模型的推理能力？正如上面的标题所示，关于这些庞大的预训练神经网络是否已经达到类人推理能力，或者它们的技能实际上是否“只是海市蜃楼”，争论正酣。 推理是人类智能的核心方面，而强大的领域无关推理能力长期以来一直是人工智能系统的一个关键目标。虽然大型语言模型(LLMs)并未被明确训练为推理，但它们表现出了有时看起来像推理的“涌现”行为。但这些行为实际上是由真正的抽象推理能力驱动的，还是由其他一些不太强大且不可泛化的机制（例如，通过记忆其训练数据，然后将给定问题中的模式与训练数据中发现的模式进行匹配）驱动的？ 为什么这很重要？如...

原作：丹尼尔·塞克斯顿 引言：通过不易觉察的路径 /Gemini翻译/ dalle，尼古拉·特斯拉启发的时光机   如果你回到1915年的美国，当时三分之一的工人是农民，你会告诉一个农民要做些什么呢？ 农业正在蓬勃发展。铁路提供了前所未有的市场准入机会。小麦和玉米的价格飙升。你会告诉他投资尖端拖拉机吗？他应该学习新的农业技术和方法吗？ 还是你会告诉他退出农业，因为他将面临着无情的效率创新浪潮，这将有效地终结农业作为一种职业？如今农业从业人员仅占1.3%。在1920年，随着战争的结束和拖拉机的引入，农产品价格下降了50%。 人工智能带来的困境涉及类似的不确定性：当前预测的可靠性，行业...

原作：jasonwei， 引言：如今，一个悬而未决的问题是，为什么大型语言模型如此有效。在这篇博文中，我将讨论有关大型语言模型的六个基本直觉。其中许多直觉受到手动检查数据的启发，这是一项我发现有帮助且会推荐的练习。   语言模型经过预训练，可以简单地预测文本语料库中的下一个单词，并且它们由此学到了惊人的知识。让我们看一些示例，了解它们可能从这个下一个单词预测任务中学到什么。   直觉1.对大型自监督数据进行下一个单词预测是大规模多任务学习。 尽管下一个单词预测是一项极其简单的任务，但当与海量数据集结合使用时，它会迫使模型学习大量任务。考虑以下传统NLP任务示例，这些任...

原作：JasonWei 引言：此博客文章不代表我的雇主OpenAI的立场（过去、现在或未来）。 /Gemini翻译/   我将回顾在讨论大型语言模型的涌现能力时出现的一些常见论点。去年，我们撰写了一篇立场文件，将涌现能力定义为“小语言模型中不存在但在大语言模型中存在的能力”。我表明了涌现能力广泛存在，并且它们因以下几个原因而引人注目： 仅仅通过推断较小模型的缩放曲线，无法预测涌现。 语言模型的训练者并未明确指定涌现能力（仅限“预测下一个单词”）。 由于我们尚未测试所有可能的任务，因此我们不知道已经涌现出的能力的全部范围。 可以预期进一步的扩展将引发更多涌现能力。 自GPT-4以来...

原作：伊格纳西奥·德·格雷戈里奥 引言：当巨额资本没有产出实际产品时 /Gemini翻译/ 它终于发生了。我们迎来了第一家真正的AI公司惨败。 Inflection是一家由比尔·盖茨、埃里克·施密特和微软等公司投资的公司，已成为第一家被冲进马桶的生成式AI相关公司。 他们最重要的产品是Pi，一个ChatGPT竞争对手，专注于成为一个友好且始终支持的AI伴侣。 现在，他们正在被微软拆除，并正在成为一家AI工作室，对于一家仅去年就筹集了惊人的13亿美元的公司来说，这是一个可怕的“结局”。 但这也是一个严峻的提醒，即AI领域完全有被主要现有企业合并的风险，以至于有一天大多数AI开发都可以追溯到两到...

原作：保罗·奥斯汀·墨菲 引言：[贝尔纳多·卡斯特鲁普在以下文章中的所有话语都来自一个名为“你的意识不在你的头脑中”的YouTube视频。|采访伯纳多·卡斯特鲁普博士。采访者是彼得·萨罗西。采访本身是在2022年荷兰哈勒姆举行的跨学科迷幻研究会议(ICPR)上录制的。] /Gemini、ChatGPT、Google翻译/ 注意：原文中的mind因语境不同，可能会翻译为思想、思维、心灵、心智，但都表示一个意义。    第一部分 （i）引言：贝尔纳多·卡斯特鲁普 (BernardoKastrup)谈科学 （ii）思想产生大脑 （iii）相关性并不意味着因果关系 （i...

原作：JamieW 引言：当我第一次看到Sora演示视频时，我产生了一个惊人的想法：这个奇迹是否是由UE5和Render的结合驱动的？还有其他什么方式可以如此生动地呈现出咖啡杯海盗船上汹涌澎湃的海洋或者速度飞驰汽车后面翻滚扬尘呢？ /Gemini翻译/ 然而，一位视觉算法专家迅速否定了我对Sora依赖像UnrealEngine或Blender等游戏引擎的想法。他澄清说，Sora操作时并不需要明确的物理模拟，就像ChatGPT在英语方面表现出色一样，并不受到语法严格规则的限制。这证明了Sora天生对物理和空间深度的把握。 一名来自a16z的投资者在Twitter上分享了一个流行但有缺陷的对So...

原作：普利瑟姆 /Gemini翻译/   人类大脑通常被称为已知宇宙中最复杂的物体，是连接性和功能性的奇迹。大脑由数十亿个神经元组成，每个神经元都有可能与数千个其他神经元相连，因此大脑的网络既庞大又复杂。 深度神经网络，特别是transformers的兴起无疑彻底改变了自然语言处理、计算机视觉，甚至某些神经科学分支等领域。它们提供了前所未有的准确性，并取得了以前被认为几乎不可能的成就。 然而，当我们深入理解复杂系统，特别是人脑时，我们越来越意识到：尽管这些网络很强大，但它们可能无法捕捉到此类系统的全部本质。 大脑的网络：超越局部连接 理解大脑的核心在于绘制和解释其庞大连接网络的挑战...

原作： 引言：本文是关于生命起源、自然发生、化学进化和RNA世界假说系列文章的第三篇。 生命的确切定义在科学界已经争论了几十年。我们坚持NASA的定义： “生命是一个能够自我维持的化学系统，并遵循达尔文的进化论” 因此，一个化学系统必须满足两个先决条件：它必须能够自我组织，并且必须能够自我复制。许多化学物质符合第一个先决条件。在原始情况下，甚至肉汤中的脂肪团也是自组织的：不带静电（非极性）的脂肪分子在水中形成一个球体——最佳的表面积与体积比——以达到靠近带电（极性）水分子的能量最优点。由于相比水密度较低，脂肪液滴会升到水表面。当到达表面时，它从球形转变为薄薄的圆形层，这是能量方面最有利的构造...

原作：科林·弗雷泽 引言：如果您相信ChatGPT正走向通用工具之路，那只是以一种狂热的信仰。 /Gemini翻译/ “锤子”比喻可能会显得有些牵强，但对于计算机专业人士再熟悉不过。设想一个没有锤子的世界。你只能用手来敲打钉子，将画挂在墙上。你必须用脚踢击石膏板以拆除墙壁。为了防止帐篷被风吹走，你只能用绳子将帐篷系在岩石上。 现在设想一下，这个世界有着悠久的科学研究历史，其中许多都非常有前景甚至具有革命性，同时还有以人工劳动（AL）为核心的推理科幻小说和未来主义传统。在也许并不遥远的未来的一天，人们预计AL将会为你钉钉子、拆除你的墙壁和固定你的帐篷。但这并不是AL将要做的全部。在未来，所谓的人...

原作：chaotropy 引言：本文是关于生命起源、自然发生、化学进化和RNA世界假说系列文章的第一篇。 /机器翻译/ 我们都熟悉达尔文的进化论，它完美的解释了生命是如何从单细胞生物演化成我们这些哺乳动物的。但最初的生命是如何诞生的？生命是如何从无生命物质中出现的？进化之前发生了什么？几十年来，物理学家、化学家和生物学家一直研究生命如何自然地从非生物物质中产生的过程——这被称为生命起源。 这个故事始于宇宙中最基本的构建模块：原子。碳、氢、氧、磷、硫和氮等元素的原子是地球上所有生命的最小粒子。在地球表面的条件下，它们彼此之间的行为都很奇怪。它们在构成我们星球的98种元素中形成一种家族，特别是在...

原作：Chaotropy 引言：这篇文章是关于生命起源、无机起源、化学进化和RNA世界假说的系列文章中的第二篇。 /机器翻译/ 现在让我们从另一个方向来看待进化：在今天的生命中，存在着一种高度保守的密码，我们人类与所有其他生物（无论是果蝇还是森林大象）都（部分地）共享这种密码。这个密码不是储存在RNA中，而是储存在更加稳定的DNA（脱氧核糖核酸）中，其中核糖被能量更加稳定的脱氧核糖所取代。两分子DNA形成一个双链，这也有助于其稳定性：核酸碱基胞嘧啶和鸟嘌呤，以及胸腺嘧啶和腺嘌呤，具有如此匹配的空间结构，使它们在电静力作用下互相吸引并将两条链结合在一起。然而，为了实现这一点，必须满足一个条件：...

原作：盖尔·麦克莱恩 引言：从古代神秘主义到存在的未来 /机器翻译/ 作者创造了技术诺斯替主义路径在未来汇聚的形象。 “到目前为止，人工智能最大的危险是人们过早地认为他们理解它。” —EliezerYudkowsky，人工智能研究员和作家(2008) 灵知：超越单纯信息积累和概念框架掌握的知识。对支撑和遍及一切存在的神圣、神秘和终极现实的直接、体验性的理解。 通用人工智能（AGI）：对超越人类认知限制的知识的追求，创造出能够推理、理解和表现的实体，其方式可能使其创造者的能力相形见绌。 AGI时代的古老智慧 诺斯替教活跃于公元1世纪至4世纪，是一场精神和宗教运动，其特点是信仰和实践的丰富融合，...

原作：chaotropy 引言：这仅是作者的观点，并非财务建议，仅供娱乐。作者持有NVIDIACorp.的实益多头仓位。 /机器翻译/ 这仅是作者的观点，并非财务建议，仅供娱乐。作者持有NVIDIACorp.的实益多头仓位。 对于我们大多数人来说，与计算机交互意味着与（多个）软件应用程序交互。这些应用程序中的每一个都具有有限的功能，并且是为或多或少特定的目的而设计的我们不能使用电子表格应用程序来编辑照片。 现代计算机，从智能手机到高性能服务器，都是通用机器，原则上可以运行几乎任何可以想象的应用程序。然而，利用底层机器固有的自由度会带来（未经训练的）人类无法处理的巨大复杂性。即使对于专家来说，...

原作：阿曼班迪/安维沙/  引言：你知道人工智能可以更有效地学习梵语吗？ /机器翻译/ 梵语是世界上最古老、最复杂的语言之一。它拥有丰富的文学和哲学传统，是印度及其他地区许多现代语言的根源。但你知道梵文也是一门非常适合人工智能（AI）的语言吗？ 人工智能是计算机科学领域，旨在创建能够执行通常需要人类智能的任务的机器和系统，例如理解自然语言、识别图像、玩游戏和解决问题。人工智能系统通常依赖于机器学习，这是从数据中学习并根据经验进行改进的过程。 机器学习的挑战之一是找到能够捕获其含义和结构的数据的正确表示。对于自然语言来说，这意味着找到一种能够保留其语法、语义和语用的单词、句子和文本的...

原作：巴邵布•南迪 引言：在不断发展的人工智能(AI)领域，研究人员孜孜不倦地从各种来源寻求灵感，令人惊讶的是，世界上最古老的语言之一梵语已成为自然语言处理(NLP)进步的金矿。梵文复杂的结构和丰富的语义框架提供了独特的见解，使其成为AI爱好者的一个令人着迷的主题。古代智慧与现代技术的融合，不仅是时代的融合，更是思想的融合，提供了意想不到的可能性。 梵文的系统性 梵文常被称为“万语之母”，拥有一种令现代语言学家和人工智能研究人员难以置信的复杂性水平。梵文的清晰语法由波你尼（Panini）编写，以3959条规则的形式被称为《八章书（Ashtadhyayi）》，这些规则在系统性和算法性方面非常出色...

原作：反向科学 引言：我们中的一些人确切地知道原因：深度学习无法概括 /机器翻译/   摘要 当AGI研究者抱怨深度学习的不足时，AI专家不应感到被冒犯。没有人真的想要摆脱深度学习。虽然AGI的出现确实会使深度学习在某些领域变得过时，但我们相信，即使在AGI解决之后，它也可能继续对许多自动化任务有用。但是，为了在解决AGI的过程中取得进展，研究人员必须指出深度学习不仅无法解决AGI，而且毫无用处。我们中的一些人确切地知道它为何无用。 注：AGI=通用人工智能。 没有泛化能力，就没有AGI 深度学习最大的问题在于其固有的无法有效泛化能力。没如果不进行泛化，边缘情况将成为一个无法克服的问...

原作：格列高利的伊格内修斯 引言：从语言到视频   AI行业的下一个里程碑--视频的征服真在加剧。 借助业界最热门的创新之一“RingAttention（环形注意力、环形使者）”，一组研究人员构建了LWM视频模型，尽管这些模型还非常小，但包含的功能超越了目前ChatGPT的能力。 然而，基于视频的模型作为大型语言模型（LLMs）的潜在“升级”，可能会带来意想不到的后果，向其已经令人印象深刻的监视、定位和潜在操纵的武器库中又增加了一种手段。 模态的征服 对于人工智能来说，征服视频始终是一个具有标志性意义的事件。  黄金模态 视频通常被视为数据的圣杯，被认为是解锁人工智能的关...

原作：伊格纳西奥·德格雷戈里奥 引言：语言时代的终结？ 昨天，AI领域的另一个关键参与者Anthropic宣布了生成式AI王座的新竞争者，即Claude的最新版本Claude3。 它展示了三种模型Opus、Sonnet和Haiku，每种模型都适用于特定的场景，一些初步结果显示它们是当今最强大的多模态大型语言模型（MLLMs）系列，超越了谷歌的Gemini1.5和OpenAI的GPT-4。 但这个消息远不止表面上看到的那么简单。 这也许是我们这个时代伟大MLLM模型的最后之作，为进入全新的AI模型让路，比如GPT-5或臭名昭著的Q，它们将与我们今天看到的模型截然不同且出奇地优越。 实际上，这个...

原作：马可·兰波尼 引言：在生成式人工智能领域，关注的焦点一直放在语言和图像上，但近期在音频领域也取得了许多进展。本文将为您介绍有关生成式音频模型的一切知识。   在过去的十年中，我们见证了人工智能驱动的音频生成技术取得了显著进步，包括音乐和语音合成。然而，直到最近，这些改进仍远远落后于图像和文本生成方面的突出进展。 这种趋势最近开始发生转变。随着大型语言模型和文本到图像生成的各种基本思想被改编并融入到音频模式中，最新的人工智能驱动的音频生成系统正在达到前所未有的质量水平。   去年发布的用户友好型应用，例如用于图像生成的DALL-E2或StableDiffus...