大语言模型也只是将用户提供的大规模数据集训练而来,也并非万能的什么都知道,特别是一些小众知识、内部数据或私密的个人数据等,此时ChatGLM3肯定会胡乱回答就是ChatGPT4也不一定能给出满意回答;不少公司、个人都有自己的知识库或日志等此时如有可将这些数据以某种方式挂在大模型上此时在知识库存在的知识可从中作答,不属于知识库中的内容还是按照大模型原来方式生成,精准度会高不少;知识库的内容包括文本、PDF、图片、视频、网页等等;  基于LLM的本地私有化知识库实现主要分为两种:  1、模型训练微调:将知识库的内容整理成训练数据集,拿这些整理好的数据集来训练该模型,最终让模型“学会”该知识库的...

  Jhb83ewzHakq   2023年12月03日   63   0   0 大模型

  本篇主要内容为介绍ChatGLM3的安装使用,后续才会涉及到使用LangChain实现本地知识库的内容;  ChatGLM为智谱与清华大学开源的一个大语言模型,支持多轮对话、内容创作等,ChatGLM3-6B为ChatGLM3系列中门槛相对较低的一个,本地部署提供兼容OpenAI的API;  LangChain用于快速开发基于大语言模型应用程序的框架,提供了一整套工具、组件、接口等使得程序与大语言模型轻松交互组件快速组合、集成;如在模型上外挂本地知识库等; ChatGLM3安装   这里将安装使用int4量化版本的ChatGLM3-6B推理程序ChatGLM.cpp项目地址为:  htt...

  Jhb83ewzHakq   2023年11月30日   40   0   0 大模型

  OpenAI的Karpathy利用周末搞了一个迷你Llama2项目llama2.c用500行C语言实现无任何依赖项的推理程序,此项目在github发布以来衍生出了基于各种语言的迷你Llama推理实现llama2.go、llama2.java、llama2.py等等;  但该项目原本的模型并不支持中文,最近正好看到一个基于llama2的中文训练模型;想着把它跑在树莓派上速度会怎样;  使用Go实现进行模型推理,该在树莓派中的Llama2迷你中文模型,模型大小为15M使用的数据集为TinyStories英文翻译后的数据但仅翻译了TinyStories的部分数据目前为1M,中文词表使用UTF-8...

  Jhb83ewzHakq   2023年11月02日   67   0   0 Go

超声波模块介绍   超声波测距原理很简单:  1、通过记录发送超声波的时间、记录超声波返回的时间,返回时间与发送时间相减得到超声波的持续时间。  2、通过公式:(超声波持续时间声波速度)/2就可以得出距离;   HC-SR04参数:  工作电压:5V  工作电流:15mA  最短测量距离:3cm  最长测量距离:4m  角度15度  Trig引脚输入信号:10usTTL脉冲  Echo引脚输出信号:5v脉冲信号 超声波模块接线与工作过程 接线:   总共4引脚:2电源引脚(Vcc、GND)和2个控制引脚Trig、Echo;  Vcc为5v供电  Trig引脚用于接收树莓派信号,可接所有GPI...

  Jhb83ewzHakq   2023年11月02日   68   0   0 Python

  Systemd为Linux中的初始化init系统,用于启动与停止服务进程,设计目标为:尽可能启动更少进程、更多进程并行启动;Systemd使用Linux的CGroup特性用来跟踪与管理进程的生命周期,在服务启动时会并发创建依赖的服务进程,子进程继承父进程CGroup相关服务进程归属与同一个CGroup。Systemd只需遍历CGroup即可找到所有相关进程,关闭所有依赖;  Systemd具有快照与恢复的能力,可对系统当前运行状态创建快照,并可通过所创建的快照恢复所创建快照时系统的运行状态;Systemd带有日志服务journald,使用二进制格式保持日志信息可使用journalctl命令...

  Jhb83ewzHakq   2023年11月01日   50   0   0 Linux

设置USB启动   当前环境使用的树莓派版本为:RaspberryPi3B,并且已经在SD卡中烧录系统;1.使用SD卡烧录RaspberryPiOS。   可以只使用RaspberryPiOSLite,无桌面环境; 2.RaspberryPi启动进入操作系统中后,更新系统环境: sudoapt-getupdate sudoapt-getupgrade 3.完成系统更新后,在终端中输入以下命令:   该命令将program_usb_boot_mode=1写入引导配置文件,当RaspberryPi启动时,它就知道需要将数据写入OTP的USB引导模式。 echoprogram_usb_boot_m...

  Jhb83ewzHakq   2023年11月01日   60   0   0 Linux

固件更新   需将小米AX9000路由支持安装Docker,但正式版并没有该功能需更新为开发板Rom,直接在小米路由官网下载固件更新即可,当前正式版最新固件为1.0.165,开发板固件为:1.0.140;   固件更新为140开发版本后即可在小米路由管理页面的高级设置项中看到DOCKER的选项; 安装Docker   要安装Docker需要在小米AX9000中插入大于32GB的U盘或移动硬盘等存储设备,并格式化为ext4格式;   AX9000只有1GB内存,安装使用Docker可能有点不充裕,此时可使用AX9000的虚拟内存功能,支持的虚拟内存大小为512MB-4096MB,虚拟内存为存储设...

  Jhb83ewzHakq   2023年11月01日   190   0   0 Linux

图片生成与解释   让NewBing画一张图片,生成了四张图片小图看上去还可以,但放大细节还不够好公路可能都不是直的,图片的内容中和海南不太贴合,在海南海边并没有那么高的山,四张勉强一两张能用;  目前NewBing还不支持中文提示词,但是可以先让它生成一些英文的内容,再用中文去提问这时很大概率能生成,它会将中文翻译成英文进行图片的生成; 图片放大: 对图片进行解释: 海南岛,美丽的天堂,碧海蓝天,风光无限。山峰耸立,云雾缭绕,椰林摇曳,花香四溢。这里是人间仙境,让人流连忘返,这里是心灵净土,让人心旷神怡。   能够用多种形式描述生成的图片,还可以是小故事,生成的描述内容还算可以; ...

  Jhb83ewzHakq   2023年11月01日   60   0   0 AI综合
关注 更多

空空如也 ~ ~

粉丝 更多

空空如也 ~ ~