对大模型的调用通常有以下几种方式：方式一、大模型厂商都会定义http风格的请求接口，在代码中可以直接发起http请求调用；方式二、在开发环境中使用大模型厂商提供的api；方式三、使用开发框架Langchain调用，这个就像java对数据库的调用一样，可以直接用jdbc也可以使用第三方框架，第三方框架调用会封装一些共性问题，比如参数配置，多数据库统一调用方式，连接处理，缓存处理等等，使用第三方框架调用往往会大幅提高开发效率。下面逐一说明几种调用方式 方式一:post请求调用，以openai（chatgpt）为例，demo如下，举例代码语言为python，http调用各种语言都有这个能力，个...

AI模型训练主要使用GPU的算力，GPU,显卡这些知识大家都懂的，还是简单说一下GPU吧：GPU是显卡的核心部分，GPU承担着与CPU不同的定位和功能，芯片设计思路也完全不同，GPUCore小而且多，它不承担系统管理、调度的功能，完全专注于使用(大量的)小核心并行化地执行运算。 GPU的几个主要用途： 1、处理图形渲染，包括游戏、视频和动画。 2、加速通用计算，如深度学习、科学模拟等。 3、高度并行处理，适用于大规模数据处理和处理密集型任务。 这里我们把NVIDIA显示芯片的显卡称为N卡，而将采用AMD显示芯片的显卡称为A卡，这两种显卡是目前的主流 Nvidia有个很...