1文件+2个命令，无需安装，单机离线运行70亿大模型 大家好，我是老章 最近苹果发布了自己的深度学习框架--MLX，专门为自家M系列芯片优化。看了展示视频，这个框架还能直接运行Llama7B的大模型，在M2Ultral上运行流畅。但是我尝试了一下，我的M2Macmini根本跑不动，模型权重太大了。 这倒勾起了我继续单机玩大模型的兴趣，然后就发现了llamafile的玩法：下载模型文件、直接执行即可浏览器中运行，就可以开始聊天，还可以上传图片进行提问。 先不介绍原理，直接看看如何运行吧： 1、下载llava-v1.5-7b-q4-server.llama文件（对应模型是LLaVA1.5，在Lla...

Excalidraw把他们的文本到图表的功能开源了 Excalidraw是一个虚拟白板应用，专门用于绘制类似手绘的图表。它提供了一个无限的、基于画布的白板，具有手绘风格，支持多种功能。 之前我分享的：72张PNG，图解机器学习里面的插图都是用Excalidraw绘制的。 6月份我翻译这个图解机器学习时，为了方便，还自己部署了一套，增加了中文手写字体和数学公式支持。 最新Excalidraw开源了其文本到图表功能，允许用户输入文本描述，将其自动转换为相应的图表或图形。 开源地址GitHub：https://github.com/excalidraw/excalidraw… 在线体验：http...

吴恩达最新短课，知识很硬核，附中英字幕 简介 大家好我是老章，吴恩达老师忠实粉丝 之前刷过他的很多课程： [吴恩达新课，1.25倍速刷完了] [给吴恩达的最新短课加了中英文字幕] 最近吴老师又限时免费开放了一个短课：《构建和评估高级RAG应用程序》 该课程由由llama_index和truera_ai的jerryjliu0和datta_cs教授主讲，门槛很低，有Python基础知识即可学习。 官网没有中文字幕，所以我用ai翻译并重新压制了中英文字幕版上传B站了 https://www.bilibili.com/video/BV1Cu4y1g7gG/ 课程主题 本短课预计需要2个小时可以学...

大家好，我是老章 好久没有写文章了，顺便向大家汇报一下最近在忙的事情（多数无疾而终）：1开发了一个IMG2Latex工具（截图一个公式，自动把latex代码塞进剪贴板）2开发了一个播客转文字稿，文字稿摘要工具3为ExcaliDraw添加自定义字体、公式渲染支持4玩声音克隆，复制了罗翔老师的声音5翻译《图解机器学习》《图解机器学习工程》 全过程都在高强度使用GPT-4，由于众所周知的原因（openai“恶意”封号），我转玩Poe了，可以同时使用GPT-4、Claude-2，也能自建机器人。我最常用的就是Debug机器人、代码解释机器人和翻译机器人。 最近也感受到GPT-4变笨了，因为无论是代码还...

大家好，我是老章 最近玩心大发，用Claude-2-100K复刻了胡锡进老师的写作风格，然后用这个风格点评世间万物。 蛮有意思的，直接看效果吧： 怎么实现的呢？老章不喜欢废话，极简介绍一下步骤。 第一步：爬虫 先打开老胡的微博首页：https://weibo.com/u/1989660417 爬虫用了这个项目:https://github.com/dataabc/weiboSpider/ 爬取胡老师最近三个月的微博正文，建议保存为csv格式，只要其正文部分。 把这一部分复制到文本编辑器里备用 第二步：Claude-2总结文风 Claude-2-100K有10万token的上下文，差不多...

昨晚看到一个可以在JupyterLab中使用的AI代码辅助工具jupyter-ai，它的交互确实非常棒，可以直接聊天，也可以就笔记中的代码提问，最出彩的是生成笔记功能，还是蛮惊艳的。 这里就极简介绍一下安装及用法 第一步是创建环境并安装 condacreate-njupyter-aipython=3.11 condaactivatejupyter-ai pipinstalljupyter_ai JupyterAI支持很多模型，这里就以使用最广泛的openai为例 要使用OpenAI模型，请安装openai的包，并在从终端启动JupyterLab时设置环境变量： pipinstallopen...