MegEngine开发者说」直播课程第二期火爆来袭！本期既有技术大佬带来深度学习编译器MegCC的详细教程，又有实习经历丰富的在校同学分享MegEngine算子开发流程及开源经历，手把手带你学习，精彩不容错过！更有直播间有奖答疑，现在报名，即有机会获得MegEngine周边大礼包！ 关于「MegEngine开发者说」 旷视天元（MegEngine）官方推出的线上课程，由不同行业领域、不同AI工龄的优秀开源项目开发者进行前沿技术、项目经验分享，更有实习、找工作、保研、比赛等满满干货，助力正处于不同阶段的开发者学习技术、升学、升职！ 精彩抢先看 本期课程我们邀请到了两位优秀开发者进行主题分享 雷康...

一个程序首先要保证正确性，在保证正确性的基础上，性能也是一个重要的考量。要编写高性能的程序，第一，必须选择合适的算法和数据结构；第二，应该编写编译器能够有效优化以转换成高效可执行代码的源代码，要做到这一点，需要了解编译器的能力和限制；第三，要了解硬件的运行方式，针对硬件特性进行优化。本文着重展开第二点和第三点。 简单认识编译器 要写出高性能的代码，首先需要对编译器有基础的了解，原因在于现代编译器有很强的优化能力，但有些代码编译器不能进行优化。对编译器有了基础的了解，才能写出编译器友好型高性能代码。 编译器的优化选项 以GCC为例，GCC支持以下优化级别： -O<number>，其...

在前面的文章中，我们简单介绍了在 MegEngineimperative 中的各模块以及它们的作用。对于新用户而言可能不太了解各个模块的使用方法，对于模块的结构和原理也是一头雾水。Python 作为现在深度学习领域的主流编程语言，其相关的模块自然也是深度学习框架的重中之重。 模块串讲将对 MegEngine 的 Python 层相关模块分别进行更加深入的介绍，会涉及到一些原理的解释和代码解读。Python 层模块串讲共分为上、中、下三个部分，本文介绍 Python 层的 data&nb...

在前面的文章中，我们简单介绍了在 MegEngineimperative 中的各模块以及它们的作用。对于新用户而言可能不太了解各个模块的使用方法，对于模块的结构和原理也是一头雾水。Python 作为现在深度学习领域的主流编程语言，其相关的模块自然也是深度学习框架的重中之重。 模块串讲将对 MegEngine 的 python 层相关模块分别进行更加深入的介绍，会涉及到一些原理的解释和代码解读。Python 层模块串讲共分为上、中、下三个部分，本文将介绍Python 层的 functional、m...

在前面的文章中，我们简单介绍了在 MegEngineimperative 中的各模块以及它们的作用。对于新用户而言可能不太了解各个模块的使用方法，对于模块的结构和原理也是一头雾水。Python 作为现在深度学习领域的主流编程语言，其相关的模块自然也是深度学习框架的重中之重。 模块串讲将对 MegEngine 的Python 层相关模块分别进行更加深入的介绍，会涉及到一些原理的解释和代码解读。Python 层模块串讲共分为上、中、下三个部分，本文将介绍Python 层的 quantization ...

旷视开源的深度学习框架 MegEngine，MegEngine是一个快速、可拓展、易于使用且支持自动求导的深度学习框架。 以最新的release版本release-1.13.0为例介绍一下MegEngine的代码结构以及如何学习MegEngine的代码。 1.编译 对于学习大型项目，我们建议源码编译项目而不是直接安装包，这样我们可以直接修改代码（并编译）再观察我们的改动的影响。 2.从一个例子入手，自顶向下 大型项目动辄几千上万条commit，代码行数也是几十万行起步，把每个commit、每一行代码都看一遍对于个人开发者来说显然是不现实的。因此我们应该先从较为重要的、我们比较关心的文...

你是否需要AI初学者入门级的开源教程？ 你是否期待和顶尖开发者一起学习，向深度学习领域的大佬看齐？ 你是否希望通过课程讲解，了解项目实践，掌握深度学习、大模型相关的前沿AI技术？ 如果你的答案是肯定的，那么「MegEngine开发者说」系列课程正是你想要的！ 「MegEngine开发者说」是由旷视天元（MegEngine）官方推出的线上课程，由不同行业领域、不同AI工龄的优秀开源项目开发者进行前沿技术、项目经验分享，更有实习、找工作、保研、比赛等满满干货，助力正处于不同阶段的开发者学习技术、升学、升职！ 第一期重磅来袭！本期课程我们邀请到了两位优秀开发者进行主题分享： 邱忠喜-南方科技大学 ...

0.写在前面 “xx，R那边反应多机训练速度慢，你看一下什么情况” “xxx，为什么MGE更新之后，xxx网络训练变慢了，你看一下” 这是组内日常对话 然后有人日常背锅 组员的状态是：提性能，提性能，还是TMD提性能 据不完全统计，有80%的性能问题其实是因为训练代码写的不够好，让MGE有力使不出来 包括但不限于以下情况 1）没开fast_run 2）频繁使用numpy进行同步 3）没有用make_allreduce_cb，让计算通信串行 4）。。。 次数多了，就发现这玩意太花时间了，而且每次的步骤都千篇一律，为啥一定要我来做，所以写这篇文章进行总结，方便大家也方便自己 1.Profiler介...

v1.13.1新版本发布 MegCC新版本发布 【MegEngine使用小技巧】系列文章 1.《MegEngine使用小技巧：如何使用MegCC进行模型编译》 2.《MegEngine使用小技巧：Profiler使用手册》 Imperative介绍专栏 1.《MegEnginePython层模块串讲（上）》 2.《MegEnginePython层模块串讲（中）》 3.《MegEnginePython层模块串讲（下）》 如有催更或投稿，欢迎联系我们哦～ 开源项目分享，实习宝典传授，直播课程报名开启！SAM带来的思考与未来；基于MegCC的模型推理优化；实习求职宝典；开源大赛分享 9...