Anaconda是什么？ Anaconda是一个开源的Python发行版本，主要面向数据科学、机器学习和数据分析等领域。它不仅包含了Python解释器本身，更重要的是集成了大量的用于科学计算、数据分析和机器学习相关的第三方库，并且提供了一个强大的包管理和环境管理工具——Conda。通过Conda可以在一台电脑上，创建多个python的环境，非常自由的进行切换。以下是Anaconda的主要特点和功能： 便捷的环境管理：Anaconda通过其内置的包管理器Conda，使得创建、管理和切换不同的Python环境变得极为简单。用户可以在不同项目之间轻松配置独立的环境，每个环境中可以安装特定版本的Py...

1f45bd1e8577af66a05f5e3fadb0b29 通过ORPO对llama进行微调 前言 ORPO是一种新颖的微调技术，它将传统的监督微调和偏好对齐阶段整合到一个过程中。这减少了训练所需的计算资源和时间。此外，经验结果表明，ORPO在各种模型大小和基准测试中都超过了其他对齐方法。在本文中，我们将使用ORPO和TRL库来微调新的Llama38B模型。代码可以在GoogleColab（https://colab.research.google.com/drive/1eHNWg9gnaXErdAa8_mcvjMupbSS6rDvi?usp=sharing）和GitHub上的LLM(ht...

1、ollama到底是个什么玩意 一句话来说，Ollama是一个基于Go语言开发的简单易用的本地大模型运行框架。可以将其类比为docker（有类似docker中的一些常规命令list,pull,push,run等等），事实上确实也制定了类似docker的一种模型应用标准，在后边的内容中，你能更加真切体会到这一点。 在管理模型的同时，它还基于Go语言中的Web框架gin提供了一些Api接口，让你能够像跟OpenAI提供的接口那样进行交互。 2、来看看ollama的几个命令 ollama安装之后，其同时还是一个命令，与模型交互就是通过命令来进行的。 ollamalist：显示模型列表 ollam...

1、前言 为什么说是伪微服务框架，常见微服务框架可能还包括服务容错、服务间的通信、服务追踪和监控、服务注册和发现等等，而我这里为了在使用中的更简单，将很多东西进行了简化或者省略了。 年前到现在在开发一个新的小项目，刚好项目最初的很多功能是比较通用的，所以就想着将这些功能抽离出来，然后做成一个通用的基础服务，然后其他项目可以直接引用这个基础服务，这样就可以减少很多重复的工作了。我在做的过程中也是参考了公司原有的一个项目，目标是尽量的简单，但是项目搞着搞着就越来越大了，所以我也是在不断的进行简化和优化。当然我的思考和架构能力还存在很大的问题，另外还由于时间比较仓促，很多东西还没有经过我的深思熟虑，...