编辑:Johngo学长 最近,吴恩达在其创办的人工智能周讯《TheBatch》上更新了一篇博文,总结了机器学习领域多个基础算法的历史溯源。 文章开头,吴恩达回忆他的研究历程中曾有一次抉择: 多年前,在一次项目中,选择算法时,他不得不在神经网络与决策树学习算法之间做选择。考虑到计算预算,他最终选择了神经网络,在很长的一段时间内弃用增强决策树。 这是一个错误的决定,「幸好我的团队很快修改了我的选择,项目才成功。」吴恩达谈道。 他由此感叹,不断学习与更新基础知识是十分重要的。与其他技术领域一样,随着研究人员的增加、研究成果数量的增长,机器学习领域也在不断发展。但有些基础算法与核心思想的贡献是经得起...

编辑:泽南  英伟达GPU买不到的问题,就这样解决了? 最近,科技领域有很多人都在为算力发愁。 OpenAICEO奥特曼:我整天在都想着flops。 自预训练大模型兴起以来,人们面临的算力挑战就变得越来越大。为此,人们为大语言模型(LLM)提出了许多训练和推理的解决方案。显然,大多数高性能推理解决方案都基于CUDA并针对英伟达GPU进行了优化。 但在动辄千亿参数的模型体量,多家科技公司激烈竞争,以及单一供应商的合力作用下,想抢到GPU又变成了一件难事。 最近,微软、OpenAI等公司都表示正在采取必要措施来缓解用于AI任务的H100、A100专用GPU的短缺问题。微软正在限制...

  BhYoICNPeXOn   2023年11月02日   141   0   0 CUDA解决方案机器学习

作者:AndreYe机器之心编译编辑:陈萍 树模型和神经网络,像一枚硬币的两面。在某些情况下,树模型的性能甚至优于神经网络。 由于神经网络的复杂性,它们常常被认为是解决所有机器学习问题的「圣杯」。而另一方面,基于树的方法并未得到同等重视,主要原因在于这类算法看起来很简单。然而,这两种算法看似不同,却像一枚硬币的正反面,都很重要。 树模型VS神经网络 基于树的方法通常优于神经网络。本质上,将基于树的方法和基于神经网络的方法放在同一个类别中是因为,它们都通过逐步解构来处理问题,而不是像支持向量机或Logistic回归那样通过复杂边界来分割整个数据集。 很明显,基于树的方法沿着不同的特征...

在数据分析和可视化的领域,选择合适的工具可以让我们事半功倍。今天,我们要介绍的两个工具,Streamlit和ECharts,各自在快速应用开发和高效数据可视化方面都有出色的表现。更为令人兴奋的是,当这两者结合时,我们能轻松地创建出互动性强、美观的数据大屏。 工具的简介 Streamlit Streamlit是一个开源的Python库,允许数据科学家和工程师在几分钟内转化他们的数据脚本为交互的Web应用。其特点在于其简单性和灵活性。开发者无需前端经验,只需要Python基础即可。其声明性的交互模型意味着不必处理回调或服务器配置,Streamlit为你处理了这一切。 ECharts EChart...

编辑:编辑部 【新智元导读】传说中的英伟达GH200在MLPerf3.1中惊艳亮相,性能直接碾压H100,领先了17%。 继4月份加入LLM训练测试后,MLPerf再次迎来重磅更新! 刚刚,MLCommons发布了MLPerfv3.1版本更新,并加入了两个全新基准:LLM推理测试MLPerfInferencev3.1,以及存储性能测试MLPerfStoragev0.5。 而这,这也是英伟达GH200测试成绩的首次亮相! 相比于单张H100配合英特尔CPU,GH200的GraceCPU+H100GPU的组合,在各个项目上都有15%左右的提升。 英伟达GH200超级芯片首秀 毫无疑问,英...

  BhYoICNPeXOn   2023年11月02日   26   0   0 Grace基准测试英伟达

供处于硕博阶段的朋友们参考! 作为你们的老师,我现在每周工作60小时,踏踏实实的60小时。阅读,实践,思考,讨论和请教,周而复始。其实这还不够用,因为我既要独立做这边自己的课题,还要协助各位完成你们的课题。那么对你们的要求降低一些,每周50小时吧。希望是真实而有效率的50小时,思维和四肢都处于激活状态的50小时。 大家千万不要认为这有什么不得了的,跟国外就不用比了,单就国内而言,北大、清华、中科院研究生的工作状态,比50小时有过之而无不及。不能否认我们学生的天赋,但我们的天赋大约不会比北大、清华、中科院或者Stanford,Harvard,UCBerkeley的学生高很多。一周工作40小时或...

  BhYoICNPeXOn   2023年11月02日   61   0   0 微信机器学习统计学习

CV领域已经卷到了一个新的高度。 本月初,Meta发布「分割一切」AI模型——SegmentAnythingModel(SAM)。SAM被认为是一个通用的图像分割基础模型,它学会了关于物体的一般概念,可以为任何图像或视频中的任何物体生成mask,包括在训练过程中没有遇到过的物体和图像类型。这种「零样本迁移」的能力令人惊叹,甚至有人称CV领域迎来了「GPT-3时刻」。 最近,一篇「一次性分割一切」的新论文《SegmentEverythingEverywhereAllatOnce》再次引起关注。在该论文中,来自威斯康星大学麦迪逊分校、微软、香港科技大学的几位华人研究者提出了一种基于prompt...

HistGradientBoosting https://scikit-learn.org/stable/modules/ensemble.htmlhistogram-based-gradient-boosting Scikit-learn0.21引入了两种新的梯度提升树实现,分别是HistGradientBoostingClassifier和HistGradientBoostingRegressor,灵感来自于LightGBM。 速度优势 这些基于直方图的估计器在样本数量超过数万个样本时可以比GradientBoostingClassifier和GradientBoostingRe...

编辑:深度学习与计算机视觉 理工科博士最近又陷入了迷茫感觉看不到未来有点烦躁想请教大家的建议和意见 关于学习:感觉很累心累和身体累每天都忙不完但是回头看又没有什么进展。有时候遇到问题会卡很久而且最后也未必能解决。想重新学习新的方向但是害怕无法入境最终耽误时间得不偿失。想规划一下学习/生活计划却不知道做哪些方面的准备不知道需要为未来的工作而掌握哪些技能/常识。sad 关于工作:看不到希望感觉博士读完以后的人生经济方面也未必有当时硕士直接工作好。不知道去工业界还是学术界。其实个人还是很喜欢做学术的但现在内卷严重想留好的高校土博估计不行想想以后留校非升即走以及申请title也得靠guanx...

  BhYoICNPeXOn   2023年11月02日   46   0   0 微信学习机器学习ide

清华大学老校长梅贻琦曾言:所谓大学者,非谓有大楼之谓也,有大师之谓也。言简意赅,一流的大学需要一流的师资,大师是大学的核心和灵魂。 随着时代的变迁,一流大学的含义越来越广,不仅是一流的师资、一流的科研水平、一流的学科和专业、雄厚的资金、一路飙升的国际排名,既要一枝独秀又要百花齐放。 还有,一流的名字。好的姓名令人耳目一新、印象深刻,好的大学名不仅具有“声势效应”,在传播上增强高校的声浪;马太效应带来的叠加最终会反馈到大学的资源优势上。 校名代表的是大学的办学定位、特色、影响力、格局还有层次,师专和师范,专科学院和专科学校,市属、省属和国字头,行业特色型、理工型、人文型还是综合性,大学名门道也...

  BhYoICNPeXOn   2023年11月02日   52   0   0 微信机器学习统计学习

本文只做学术分享,如有侵权,联系删文 导读 本文从Normalization的背景讲起,用一个公式概括Normalization的基本思想与通用框架,将各大主流方法一一对号入座进行深入的对比分析,并从参数和数据的伸缩不变性的角度探讨Normalization有效的深层原因。 深度神经网络模型训练之难众所周知,其中一个重要的现象就是InternalCovariateShift.BatchNorm大法自2015年由Google提出之后,就成为深度学习必备之神器。自BN之后,LayerNorm/WeightNorm/CosineNorm等也横空出世。本文从Normalization的背景讲起,用一...

近日,丁香园发布了首都医科大学附属北京朝阳医院教授、博导施焕中分享的一则面试博士毕业生的经历,其中一位小弟现场的表现给他的印象十分深刻,甚至引发了他对中国社会错综复杂的人际关系的思考。 图源:丁香园 施焕中教授写道:这名博士应该属于那种在小城市待得不特别爽的聪明人,于是乎想通过攻读博士学位一举鱼跃龙门,然而问题是他在科研方面的成绩也无过人之处,这个时候,应聘者的态度和临场表现就显得十分重要。 然而,该博士提供的书面材料显示,他发表了1篇SCI论文和6篇中文文章。6篇中文论文第一作者2篇,第二作者4篇,好像其中4篇为综述。但在应用PPT口头陈述时,却说他作为第一作者发表了6篇中文论文。 到提...

今天给大家介绍16个Matplotlib绘图实用的小技巧。 1.添加标题-title matplotlib.pyplot对象中有个title()可以设置表格的标题。 importnumpyasnp importmatplotlib.pyplotasplt 显示中文 plt.rcParams['font.sans-serif']=[u'SimHei'] plt.rcParams['axes.unicode_minus']=False %matplotlibinline x=np.arange(0,10) plt.title('这是一个示例标题') plt.plot(x,xx) plt.s...

神经网络可视化是指通过图形化的方式展示神经网络的结构、参数、输入、输出、中间结果等信息,可以帮助用户更好地神经网络的内部工作原理和特征提取过程,以优化神经网络模型。扩展阅读:神经网络学习到的是什么?  机器学习可视化技术概览(Python) 本文汇总了全网最为全面的26款神经网络可视化工具,可以帮助大家了解神经网络的结构组成、工作原理和性能表现,从而更好地进行模型调整和优化。也可以画出酷炫的模型图方便模型的展示。具体如下: 1.Net2Vis:是一款自动从Keras代码生成卷积神经网络的抽象可视化的工具。 地址:https://github.com/viscom-ulm/...

  编辑:小舟 关于英伟达下一代旗舰GPURTX5090,人们一直抱有期待和猜测。 早在2021年,知名爆料者kopite7kimi就称英伟达将推出代号为「Blackwell」的GPU架构。 Blackwell有望成为AdaLovelace架构的继任者,被认为是RTX5090的架构。与Hopper/Ada架构相比,Blackwell计划将其覆盖范围扩展到数据中心和消费级GPU。 现在,Chiphell论坛上的知名爆料者Panzerlied又提供了更多信息:相比于RTX4090,RTX5090整体性能提升70%。具体来说,爆料称RTX5090将包括如下改进: CUDA内核...

微软人工智能教育:https://github.com/microsoft/ai-edu 人工智能系统,主要讲解支持人工智能的计算机系统设计,对应的英文课程名称为SystemforAI。本课程中将交替使用一下词汇:人工智能系统,AI-System和SystemforAI。本课程为微软人工智能教育与共建社区中规划的人工智能相关教程之一,在A-基础教程模块下,课程编号和名称为A6-人工智能系统。 基础课程 课程编号 讲义名称 备注 1 课程介绍 课程概述和系统/AI基础 2 人工智能系统概述 人工智能系统发展历史,神经网络基础,人工智能系统基础 3 深度神...

图像边缘是两个具有不同灰度的均匀图像区域的边界,边缘检测是图像处理的基本问题,目的是标识数字图像中亮度变化明显的边缘点,不断向上构成更高层次的特征描述。并且剔除不相关的特征信息,保留图像重要的结构属性。 在视觉计算理论框架中,抽取二维图像上的边缘、角点、纹理等基本特征,是整个系统框架中的第一步,图像中局部灰度级以简单的方式作极快变换的小区域特征所组成的图称为基元图,在不同"尺度"意义下的边缘点,在一定条件下包含了原图像的全部信息。 检测原理 基本思想是通过检测每个像素和其邻域的状态,以决定该像素是否位于一个物体的边界上。如果一个像素位于一个目标物体的边界上,则其邻域像素的灰度值的变化...

异常检测(也称为离群点检测)是检测异常实例的任务,异常实例与常规实例非常不同。这些实例称为异常或离群值,而正常实例称为内部值。 异常检测可用于多种应用,例如:①欺诈识别②检测制造中的缺陷产品③数据清理——在训练另一个模型之前从数据集中去除异常值。 你可能已经注意到,一些不平衡分类的问题也经常使用异常检测算法来解决。例如,垃圾邮件检测任务可以被认为是一个分类任务(垃圾邮件比普通电子邮件少得多),但是我们可以用异常检测的方法实现这个任务。 一个相关的任务是奇异值检测(NoveltyDetection)。它与异常检测的不同之处在于,假设该算法是在干净的数据集(没有异常值)上训练的。它被广泛应...

  高等教育评价机构软科8月15日发布“2023软科世界大学学术排名”。排名展示了全球领先的1000所研究型大学, 中国内地的高等教育在全球范围内展现出了令人瞩目的实力和影响力!今年,中国内地共有191所高校进入全球1000强大学榜单,首次超过美国的187所,成为全球拥有最多百强高校的国家。这一成绩彰显了中国研究型大学群体的学术实力和国际声誉的持续攀升。 在这份备受瞩目的全球百强榜单中,清华大学荣登榜首,位列全球第22名,展示了其卓越的教学和研究实力。北京大学也取得了显著的进步,排名上升5名,位列全球第29名。浙江大学的排名上升3名,位列全球第33名,而上海交通大学则成功进入全球前50强,位...

  BhYoICNPeXOn   2023年11月02日   17   0   0 大数据人工智能科学技术

编辑:深度学习与计算机视觉 声明:仅做学术分享,侵删 作者:钢铁小飞侠坐标纽约某私立小学校。 把博士活成了高中生的感觉,文体两开花。 学术累了,没心情了,就去练普拉提,跳芭蕾,练体操,游泳。嗯,还在考普拉提的教练证。 平时和国内、德州、湾区、西雅图的朋友们聊天儿闲聊,关注时事热点~ 不担心paper发不出来,因为新领域对比原来的领域(第一个博士的领域)发paper顺利很多。。 不担心科研进展不顺利,因为再不顺利也只是暂时的,再不顺利也比癌症化疗舒服很多。。 不担心被老板pua,因为我心态好,她说啥我不往心里去。。 不担心毕业后找工作,因为工作总会有的。。 不担心买房子的房价,因为手里不...

  BhYoICNPeXOn   2023年11月02日   27   0   0 深度学习机器学习知乎
关注 更多

空空如也 ~ ~

粉丝 更多

空空如也 ~ ~