基本功总是很香的，良好的基础才能决定上层建筑的质量和高度。    从今天开始陆续连载一些深度学习的基础，包括概念，数学原理，代码，最近也确实没什么热点可以蹭    先看机器学习和深度学习的对比： "数据和特征决定了机器学习的上限，而模型与算法则是逼近这个上限而已"，机器学习和深度学习的本质区别之一是特征工程，而特征工程又是决定最终结果好坏的最重要的因素之一；上图最上面描述是机器学习的流程，如果让一个计算机理解输入的信息是一个汽车，那么需要人类做很多特征工程工作，就是提取出这个事物的一些特征信息然后交给机器去认知去处...

大家也看到了最近发生的新闻，A800和H800都不让在国内卖了，甚至4090都有可能被禁（看趋势应该会被放开，对于纯消费卡的限制也确实无厘头，虽然4090用来训练，调整好超参是真不错）     晚上和朋友吃饭，席间一个朋友问起，为什么不能用CPU来跑大模型呢，如果训练不行的话，难道推理也不可以吗？其实这是一个很好的问题，但是和训练和推理其实没啥关系，这问题如果延伸下去是要触及到CPU和GPU计算的本质      直接上图     然后说结论:  &...

这个文章其实之前被排上了日程，但是在队列的很后面，没什么优先级，今天确实是插队了，因为我朋友下周需要帮忙弄Alpaca的模型，然后又自觉交了保护费，我一看这太是那个了，必须安排！！！给他排期提前了...     我挺长时间没上HF了，因为本身最近也没什么新模型想下载，之前老断我，搞得很气，结果今天一登录又这样... 当然从log看其实海那边也主动去断来自海这边的connection,基本互删了，属于是......     必须承认的是HF，现在已经是在模型社区和训练数据社区里面事实的老大，不能访问它影响还是比较...

 不知不觉我写了5篇公众号了，这个系列也写到了第三章了，我发现做什么事情还是自驱力很重要，如果觉得有意思，就能一直坚持下去，如果我公众号能写到50篇，我就去起点开一个号写仙侠小说去，我觉得小说可能我也能坚持写下去。    继续写基础，这东西之所以学起来很麻烦就是基础太多    上一篇文章我们介绍了,可以查中括号来确定张量是几维的，也能通过shape数量看到，同时shape也提供了每个维度的与元素个数，像上图前面每个维度都是1维，只有最后一维，也就是列包含2个元素     另外除了s...