编者按：近日，美国科技巨头Google宣布推出其认为规模最大、功能最强大的人工智能模型Gemini，这种技术能够处理视频、音频和文本等不同内容形式的信息。那么机器学习模型与人类智能相比，谁的学习效率高？许多人认为，人类大脑在学习效率上要远远优于我们目前训练的任何机器学习模型。面对这样的观点，本文作者进行了一番有趣的计算与思考。 今天为大家带来的这篇文章，作者的核心观点是：从接受的原始训练数据量来看，三岁小孩子的学习效率并没有明显优于主流大语言模型。 本文为我们提供了一个有趣的视角，来审视人类智能与机器智能之间的关系。可能为我们对两者进行更系统地比较提供参考。当然，仅仅从信息量的角度来看问题还...

编者按：如今传统的单机单卡模式已经无法满足超大模型进行训练的要求，如何更好地、更轻松地利用多个 GPU 资源进行模型训练成为了人工智能领域的热门话题。 我们今天为大家带来的这篇文章详细介绍了一种名为 DDP(DistributedDataParallel)的并行训练技术，作者认为这项技术既高效又易于实现。 文章要点如下： (1)DDP 的核心思想是将模型和数据复制到多个 GPU上并行训练，然后汇总平均梯度。 (2)DDP 比传统的 DP 模式更加高效，可以轻松扩展到多节点，同时也介绍了 DDP&nbsp...

编者按：近年来，强化学习在游戏和机器人控制等领域取得了较大的进步。如何设计一种强化学习算法，使机器人或Agent能够在复杂环境中学习最优策略（OptimalPolicy）并作出最优的决策，这成为一个重要课题。 我们今天为大家带来的这篇文章，作者指出可以通过设计并训练Q-learning算法来解决强化学习中的决策问题。 作者首先以FrozenLake游戏为例导入问题。然后详细介绍Q-learning的设计思路，包括构建Q-table、定义value更新公式、设置reward机制、添加epsilon-greedy探索策略等方法。最后作者通过代码示例详细展示了如何从零开始实现Q-learning算...

编者按：近年来，深度学习应用日益广泛，其需求也在快速增长。那么，我们该如何选择合适的GPU来获得最优的训练和推理性能呢？ 今天，我们为大家带来的这篇文章，作者的核心观点是：TensorCore、内存带宽和内存层次结构是影响GPU深度学习性能的几个最关键因素。 作者详细解析了矩阵乘法运算在深度学习中的重要性，以及TensorCore如何通过特有的矩阵乘法计算单元极大地提升计算性能。同时，作者还分析了内存带宽对性能的制约作用，比较了不同GPU架构在内存层次结构方面的差异。 通过这篇文章，我们可以清晰地了解GPU中与深度学习性能密切相关的硬件指标，这有助于我们在选择和使用GPU时做出更明智的决策。...

编者按：近年来，人工智能技术飞速发展，尤其是大型语言模型的问世，让AI写作、聊天等能力有了质的飞跃。如何更好地理解和利用这些生成式AI，成为许多开发者和用户关心的问题。 今天，我们推出的这篇文章有助于读者深入了解大语言模型的工作原理。作者指出，大语言模型的核心在于将文本转化为数字表征，这就需要介绍tokenizer的概念。通过tokenizer，文本被分词并映射为tokenid，这为模型理解文本提供了坚实的基础。作者还比较了基于统计学的文本自动补全和大语言模型的不同之处，说明了上下文窗口大小的重要性。最后，作者建议读者在使用OpenAI等平台时观察定价规则与token数量的关系，并思考为什么...

编者按：今年以来，大语言模型（LLM）在消费者(2C)市场崭露头角，同时也吸引了大量企业的关注。但是直接将这些面向消费者的模型引入企业环境，可能会面临一些风险。今天我们为大家带来的这篇文章，作者认为企业环境与消费者环境在数据方面存在着重要的差异，如果不认识到这些差异，面向企业环境的LLM项目就可能面临拖延甚至失败的风险。 具体来说，作者指出企业数据相比消费者数据，更多是封闭领域的数据、存量数据，涵盖更多模态，并且受到更严格的访问控制。这些特点可能导致企业环境中的LLM应用在检索准确性、内容生成等方面表现不佳。作者建议企业需要做出与消费者环境不同的设计选择，例如进行数据切片、访问控制集成、提示...

编者按：我们如何才能更好地控制大模型的输出? 本文将介绍几个关键参数，帮助读者更好地理解和运用temperature、top-p、top-k、frequencypenalty和presencepenalty等常见参数，以优化语言模型的生成效果。 文章详细解释了这些参数的作用机制以及如何在质量与多样性之间进行权衡。提高temperature可以增加多样性但会降低质量。top-p和top-k可以在不损失多样性的前提下提高质量。frequencypenalty和presencepenalty可以增加回复的词汇多样性和话题多样性。 最后，文章提供了参数配置的具体建议和技巧，供读者参考使用。选择合适的...

编者按：随着互联网内容数量的急剧增长，个性化推荐已成为各大科技公司的核心竞争力之一。那么，如何构建一个可靠、高效的基于嵌入技术的推荐系统，使其能够在实际生产环境中正常运行呢？这是所有从业者都关心的问题。 本文是Embedding技术与应用的最后一篇，探析Embedding应用工程的文章。作者认为，要让一个推荐系统项目取得成功，不能仅仅停留在算法层面，更需要从工程实现的角度进行全面的考量和设计。 文章详细阐述了一个推荐系统从零到一的完整流程，包括:生成嵌入、存储嵌入、处理与迭代嵌入、检索嵌入、更新与版本控制嵌入、推理与延迟优化、在线与离线评估等多个方面。这些都是构建一个可靠、高效推荐系统必须解...

编者按：IDP开启Embedding系列专栏，力图详细介绍Embedding的发展史、主要技术和应用。 本文是《Embedding技术与应用系列》的第三篇，重点介绍嵌入技术在生产环境中的应用效果到底如何。 文章作者认为，嵌入技术可以有效地表示用户兴趣偏好，帮助推荐系统进行个性化内容推荐。作者详细分析了Pinterest、YouTube、GooglePlay、Twitter等平台在推荐系统中应用嵌入技术的案例。这些案例表明，适当使用嵌入技术，可以提升推荐质量，增强用户粘性。作者认为，当具备大量用户数据时，嵌入技术可以成为构建高质量推荐系统的关键工具。 当然，在推荐系统中应用嵌入技术也需要谨慎，...

编者按：Transformers凭借其卓越的性能，已经成为自然语言处理领域的代表性模型架构。但是Transformers的内在机制却比较复杂，对许多读者来说可能还存在一定的难度。本系列对Transformer各组件进行逐一剖析，我们可以更直观地理解这个模型架构的整体运行逻辑。本篇文章是《轻松理解Transformers》系列的最后一篇，主要介绍Transformer的Decoder和Output部分。 文章首先指出，Transformers属于编码器-解码器架构，输入数据通过编码器转换为数学表征，再输入解码器生成最终输出。接着又以TeacherForcing为线索，剖析了带Mask的Deco...

编者按：随着人工智能技术的不断发展Transformer架构已经成为了当今最为热门的话题之一。前馈层作为Transformer架构中的重要组成部分，其作用和特点备受关注。本文通过浅显易懂的语言和生活中的例子，帮助读者逐步理解Transformers中的前馈层。 本文是Transformers系列的第三篇。作者的观点是：前馈层在Transformer架构中扮演着至关重要的角色，它能够有效地提高计算效率，同时也是集体智慧的体现。 文章作者首先介绍了前馈层的基本结构，它由全连接层组成，进行线性变换和线性计算。但也存在局限性，不能进行复杂的非线性变换。所以前馈层需要激活函数（如ReLU）进行非线性转...

编者按：随着人工智能技术的不断发展，Transformers模型架构已成为自然语言处理领域的重要基石。然而，许多人对其内部工作机制仍然感到困惑。本文通过浅显易懂的语言和生活中的例子，帮助读者逐步理解Transformers中最核心的Attention机制。 本文是Transformers系列的第二篇。作者的核心观点是：Attention机制是Transformers模型区分关键信息的关键所在。本文通过直观的类比和数学公式，让读者对Attention的计算过程有更深入的理解。文章详细介绍了Attention机制如何辨别不同单词的重要性；Query、Key、Value矩阵及其在Attention...

编者按：IDP开启Embedding系列专栏，详细介绍Embedding的发展史、主要技术和应用。 本文是《Embedding技术与应用系列》的第二篇，重点介绍神经网络的发展历程及其技术架构，剖析了嵌入技术与这些神经网络（Transformer、BERT和GPT等）的关系。 正如OpenAI去年年底推出的ChatGPT在对话领域的重要地位，嵌入技术正在成为人工智能进步的重要基石。本文作者认为,嵌入技术与生成式方法以及基于人类反馈的强化学习相结合，将支持人工智能在自然语言理解和内容生成方面取得更大突破。 通过介绍神经网络技术发展历程中的关键点,作者全面梳理了嵌入技术同神经网络共同演变的脉络,为...

编者按：相信很多人都对Chatbots背后的技术原理很感兴趣，其实Chatbots并非通过“魔法”与我们交流，而是依靠一种被称为检索增强生成（RAG）的技术。 文章详细梳理了RAG技术的具体实现原理。首先，RAG将用户输入的问题与知识库中的私有数据进行匹配，获取相关知识片段。然后，通过预训练的大语言模型，用提取到的知识片段来增强对问题的回答生成过程。在知识提取步骤，借助词向量的相似度找到与用户提出的问题最匹配的内容。生成回答时，直接向语言模型提供增强知识来指导其产出更符合语境的回答。 RAG技术看似神奇，但其本质是结合了检索和生成两个子任务的一种系统工程，而每个子任务又都有明确的技术原理支撑...

编者按：随着对大语言模型（LLM）评估领域的深入研究，我们更加清楚地认识到全面理解评估过程中的问题对于有效评估LLM至关重要。 本文探讨了机器学习模型评估中出现的常见问题，并深入研究了LLM对模型评估领域带来的重大挑战。在评估方法方面，我们将其划分为直接评估指标、基于辅助模型的评估和基于模型的评估。本文还强调了审慎观察复杂评估指标和注意细节的重要性。 以下是译文，Enjoy! 作者 | NLPurr 编译|岳扬 目录 01Introduction 02机器学习模型评估流程中的常见问题 2.1数据泄漏（Leakage） 2.2测试样本的覆盖率（Coverage） 2.3...

编者按：在训练大语言模型的过程中,构建高质量的训练数据集是非常关键的一步，但关于构建大模型训练所需数据集的通用数据处理流程（Datapipelines)的相关资料极为稀少。 本文主要介绍了基于CommonCrawl数据集的数据处理流程。首先,文章概述了CommonCrawl的不同数据格式WARC、WAT和WET的区别及应用场景。然后,文章详细阐述了数据处理流程的几个关键步骤,包括从数据源获取数据、去重、语言识别、使用模型筛选以及LLaMA中添加的“是否是参考来源”筛选等等。在各个步骤中,文章总结了不同的数据处理方案及它们的优劣。 高质量的数据最终将带来高质量的语言模型,数据处理流程需要大量的...

编者按：自ChatGPT推出后，基于人类反馈的强化学习(RLHF)技术便成为大模型构建和应用人员关注的热点。但该方法一些情况下效果却差强人意，有些基础模型经RLHF调优后反而表现更差。RLHF技术的适用性和具体操作细节似乎成谜。 这篇文章探讨了基于人类反馈的强化学习(RLHF)的工作机制，分析了RLHF的三个关键组成部分：基础模型、偏好模型和强化学习。并总结了RLHF的局限性：无法纠正事实错误或添加新能力。但它仍然是一个强大的工具，未来RLHF可能会整合更多的反馈方式，并持续优化其技术栈。让我们拭目以待！ 以下是译文，Enjoy! 作者 |NATHANLAMBERT 编译|岳扬 ...

编者按：随着大语言模型在自然语言处理中的广泛应用，如何提高其在实际部署中的推理速度成为一个非常关键的问题。 本文详细介绍了当前提高大语言模型推理速度的七大策略，包括使用低精度计算、模型量化、使用适配器微调、采用模型剪枝、批量推理、多GPU并行和采用其他推理优化工具等方法。这些方法各有利弊，作者通过具体的实例说明它们的使用效果，让读者比较清晰地了解当前这一领域的技术发展情况。 本文内容丰富全面，对那些想要将大语言模型应用到实际产品中的工程师有很强的参考价值。读者可以通过本文找出适合自己场景的推理优化策略，也可以进一步深入了解这一领域的最新进展。推荐对落地大语言模型应用感兴趣的读者阅读本文。 以...

编者按：今年以来，大语言模型(LLM)已被广泛应用于各种自然语言处理任务，也越来越多地被用于构建复杂的语言应用。但是构建多任务的LLM应用仍面临一定的挑战，需要解决任务组合和调控等问题。 本文内容介绍了构建多任务LLM应用可能涉及的方方面面，包括如何设计并使用控制流程，如何测试代理等，对于那些希望设计出好用、功能强大的LLM应用的读者而言，本文将是非常有价值的学习资料，读者可以通过本文对该领域有一个初步的了解。 以下是译文，Enjoy! 作者 |ChipHuyen 编译|岳扬 本文重点讨论如何使用控制流程（例如if语句、for循环）来组合多个任务，并结合工具（例如SQL执行器、b...

编者按：人工智能领域近年来模型规模不断增大，参数规模爆炸式增长。从GPT-3的1,750亿，再到传闻中的GPT-4可能高达惊人的18,000亿参数。然而，随着模型规模的不断膨胀，也出现了训练成本高昂、环境影响大、应用部署困难等问题。因此，业内开始反思超大模型的发展方向和意义。 在这样的背景下，“敏捷人工智能”(NimbleAI)应运而生。敏捷AI指参数量级在百亿级甚至十几亿级的较小模型。它们在训练成本、环境影响等方面具有显著优势,且可通过持续微调升级，快速适应新的应用需求。 本文首先阐明了敏捷AI的定义，并从多个维度分析了它与巨型AI模型的区别。作者认为，敏捷AI可以部分达到巨型模型的能力水...