手把手教你本地运行Meta最新大模型:Llama3.1,可是它说自己是ChatGPT?
  lnZqfDbuKjjk 2024年08月07日 46 0

就在昨晚,Meta发布了可以与OpenAI掰手腕的最新开源大模型:Llama 3.1。

该模型共有三个版本:

  • 8B
  • 70B
  • 405B

对于这次发布,Meta已经在超过150个涵盖广泛语言范围的基准数据集上评估了性能。此外,Meta还进行了广泛的人工评估,在现实场景中将Llama 3.1与竞争模型进行比较。Meta的实验评估表明:

405B版本的评估数据与目前最强的GPT-4、GPT-4o和Claude 3.5 Sonnet相比具有不错的竞争力:

file

此外,8B和70B版本与具有相似参数规模的模型相比也有相同甚至更好的表现:

file

使用 ollama 运行 Llama3.1

下面就来尝个鲜,手把手在本地把Llama3.1的8B版本跑起来。只要跟着下面的步骤做,你不需要有任何技术背景,也能完成。

  1. 安装 ollama

前往官网下载最新的 Ollama:https://ollama.com/

file

  1. 下载完成之后,打开安装程序,并完成安装步骤。

  2. 打开终端,执行命令:ollama run llama3.1

等待模型下载完成

  1. 完成模型下载,如下图所示:

file

已经弹出提示:Send a message,可以与AI进行互动了。

  1. 测试一下,尝试让他教我学习Java?

file

彩蛋

最后,常规操作,问一下你是谁:

file

啥情况?是ChatGPT?看到这里的小伙伴也试试看,也是一样的结果吗?有朋友知道为什么吗?知道的评论区求解。

欢迎关注我的公众号:程序猿DD。第一时间了解前沿行业消息、分享深度技术干货、获取优质学习资源

【版权声明】本文内容来自摩杜云社区用户原创、第三方投稿、转载,内容版权归原作者所有。本网站的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@moduyun.com

  1. 分享:
最后一次编辑于 2024年08月07日 0

暂无评论

推荐阅读
  VGxawBTN4xmE   14小时前   10   0   0 Java
  FHUfYd9S4EP5   3天前   25   0   0 Java
  sSh3rBaiME5f   4天前   32   0   0 Java
  qCe06rFCa8NK   3天前   19   0   0 Java
  ZTo294hNoDcA   3天前   26   0   0 Java
  FHUfYd9S4EP5   3天前   20   0   0 Java
  QGiRIwDaZAe8   4天前   23   0   0 Java
lnZqfDbuKjjk