数据分析
LMOps 标签描述

本文整理自2023年9月3日QCon全球软件开发大会2023·北京站——从MLOps到LMOps分论坛的同名主题演讲。 本次分享的内容结构如下: 从MLOps到LMOps; MLOps概述、挑战与解决方案; LMOps实施挑战与关键技术(大模型推理性能优化、Prompt构建和自动优化、上下文长度扩展); 未来展望。 1从MLOps到LMOps 众所周知,目前我们实现人工智能的主要技术手段是机器学习技术,特别是其中基于深层神经网络的深度学习技术。机器学习的本质是通过具有学习能力的算法、对数据进行建模的技术。 深度学习借助大规模的算力,解决了机器学习中特征表示的人工干预的瓶颈,在效果上取得...