发布日期:2024-10-23 14:30 点击次数:57
“这是我听过的黄仁勋最佳的采访!”爱色电影
英伟达 CEO 黄仁勋的一场炉边言语再次引起热议:
英伟达从来莫得一天驳斥过市集份额。
咱们所征询的只是:何如创造下一个东西?何如将以前需要一年才能完成的飞轮裁减到一个月?
濒临 Azure 和 AWS 等正在自主构建 ASIC 芯片的云野心大客户,老黄打了个譬如:
公司受到鱼塘大小的放浪,独一的标的是用遐想力扩大鱼塘(指创造新市集)。
天然了,除了说起英伟达,老黄还征询了 AGI 的智能彭胀、机器学习的加快、推理与磨练的紧迫性……
固然时长感东谈主(近 1 个半小时),但一大波网友仍是看完并交起了功课(运转卷了是吧!)
文爱聊天网友:学起来!学起来!
黄仁勋:将来推理的增长将纷乱于磨练鉴于视频较长,量子位先平直给巨匠划重心了,老黄的主要不雅点包括(省流版):
“口袋里的 AI 助理”将很快以某种时势出现,尽管领先可能会不好意思满;
英伟达的竞争上风在于竖立了从 GPU、CPU、相聚到软件和库的全栈平台;
彭胀东谈主工智能的重心已从磨练前转变到磨练后和推理;
推理(inference)时野心将动作一个全新的智能彭胀向量;
将来推理的增长将纷乱于磨练的增长;
闭源和开源将共存,开源模子可能用于创建特定鸿沟的愚弄措施;
……
(以下为重心部分整理)
Q:对于个东谈主 AI 助理的发展远景,您觉得咱们何时能在口袋里装上一个无所不知的 AI 助理?
A:很快就会以某种时势出现。这个助理一运转可能不够好意思满,但会跟着时辰推移不停改造,这是技巧发展的势必规定。
Q:咫尺 AI 鸿沟的发展变化速率是否是您见过最快的?爱色电影
A:是的,这是因为咱们重新发明了野心。在以前 10 年里,咱们将野心的边缘本钱诽谤了 10 万倍,而按照摩尔定律可能只可诽谤 100 倍。
咱们通过以下花样收场了这少量:
引入加快野心,将蓝本在 CPU 上后果不高的服务转变到 GPU 上
发明新的数值精度
斥地新架构 (如张量中枢)
领受高速内存 (HBM)
通过 MVLink 和 InfiniBand 收场系统彭胀
这种快速发展使咱们从东谈主工编程转向了机器学习,通盘技巧栈齐在快速创新和罕见。
Q:模子限度彭胀方面有哪些变化?
A:以前咱们主要关注预磨练模子的彭胀(重心在模子大小和数据限度),这使得所需野心武艺每年增多 4 倍。
咫尺咱们看到后磨练 (post-training) 和推理阶段也在彭胀。东谈主类的想维过程不可能是一次性完成的,而是需要快想维、慢想维、推理、反想、迭代和模拟等多个门径。
况且,以前东谈主们觉得预磨练难,推理浅薄,但咫尺齐很难了。
Q:与 3-4 年前比较,您觉得 NVIDIA 今天的上风是更大如故更小?
A:内容上更大了。以前东谈主们觉得芯片遐想即是追求更多的 FLOPS 和性能谋略,这种想法仍是落后。
咫尺的关节在于通盘机器学习系统的数据活水线 (flywheel),因为机器学习不单是是软件编程,而是触及通盘数据处理经过。从一运转的数据管制就需要 AI 参与。数据的采集、整理、磨练前的准备等每个门径齐很复杂,需要无数处理服务。
Q:与 Intel 等公司比较,Nvidia 在芯片制造和遐想方面有什么不同的政策?
A:Intel 的上风在于制造和遐想更快的 x86 串行处理芯片,而 Nvidia 选拔不同政策:
在并行处理中,不需要每个晶体管齐很出色
咱们更倾向于使用更多但较慢的晶体管,而不是更少但更快的晶体管
愿意有 10 倍数目、速率慢 20% 的晶体管,也不要数目少 10 倍、速率快 20% 的晶体管
Q:对于定制 ASIC (如 Meta 的推理加快器、亚马逊的 Trainium、Google 的 TPU) 以及供应阑珊的情况,这些是否会改变与 NVIDIA 的相连动态?
A:这些齐是在作念不同的事情。NVIDIA 发奋于于为这个新的机器学习、生成式 AI 和智能 Agent 寰球构建野心平台。
在以前 60 年里,咱们重新发明了通盘野心技巧栈,从编程花样到处理器架构,从软件愚弄到东谈主工智能,每个层面齐发生了变革。咱们的标的是创建一个随地可用的野心平台。
Q:NVIDIA 动作一家公司的中枢主张是什么?
A:构建一个无处不在的架构平台。咱们不是在争夺市集份额,而是在创造市集。咱们专注于创新和贬责下一个问题,让技巧罕见的速率更快。
Q:NVIDIA 对待竞争敌手和相连伙伴的格调是什么?
A:咱们对竞争很透露,但这不会改变咱们的职责。咱们向 AWS、Azure 等相连伙伴提前共享路子图,保抓透明,即使他们在斥地我方的芯片。对于斥地者和 AI 初创公司,咱们提供 CUDA 动作和洽进口。
Q:对 OpenAI 的宗旨何如?何如看待它的崛起?
A: OpenAI 是咱们这个时期最紧迫的公司之一。固然 AGI 的具体界说和时辰点并不是最紧迫的,但 AI 武艺的发展路子图将会特地壮不雅。从生物学家到时事酌量者,从游戏遐想师到制造工程师,AI 仍是在转变各个鸿沟的服务花样。
我特地赏玩 OpenAI 鼓励这一鸿沟的速率和决心,并为不错资助下一代模子感到快意。
Q:您觉得模子层是否正在走向商品化,以及这对模子公司的影响是什么?
A:模子层正在商品化,Llama 的出现使得构建模子变得愈加低廉。这将导致模子公司的整合,唯有那些领有经济引擎并好像抓续投资的公司才能糊口。
Q:您何如看待 AI 模子的将来,以及模子与东谈主工智能之间的分辨?
A:模子是东谈主工智能必不可少的构成部分,但东谈主工智能是一种武艺,需要愚弄于不同的鸿沟。咱们将看到模子层的发展,但更紧迫的是东谈主工智能何如愚弄于各式不同的愚弄场景。
Q:您何如看待 X 公司,以及他们竖立大型超等集群的建立?
A:他们在 19 天内(相似需要 3 年)建造了一个领有 100,000 个 GPU 的超等野情绪集群。这展示了咱们的平台的力量,以及咱们好像将通盘生态系统集成在一谈的武艺。
Q:是否定为散播式野心和推理彭胀将会发展到更大限度?
A:是的,我对此特地温雅和乐不雅。推理时野心动作一个全新的智能彭胀向量,与只是构建更大的模子不止天渊。
Q:在东谈主工智能中,是否许多事情只可在运行时完成?
A:是的,许多智能服务不行先验地完成,许多事情需要在运行时完成。
Q:您何如看待东谈主工智能的安全性?
A:咱们必须构建安全的东谈主工智能,并为此需要与政府机构相连。咱们仍是在竖立许多系统来确保东谈主工智能的安全性,并需要确保东谈主工智能对东谈主类是有意的。
Q:你们公司罕见 40% 的收入来自推理,推理的紧迫性是否因为推理链而大大增多?
A:没错,推理链让推理的武艺培育了十亿倍,这是咱们正在资格的工业翻新。将来推理的增长将纷乱于磨练的增长。
Q:你们何如看待开源和闭源东谈主工智能模子的将来?
A:开源和闭源模子齐将存在,它们对于不同的行业和愚弄齐是必要的。开源模子有助于激活多个行业,而闭源模子则是经济模子创新的引擎。
本文来自微信公众号:量子位(ID:QbitAI),作家:一水
告白声明:文内含有的对外跳转连气儿(包括不限于超连气儿、二维码、口令等时势),用于传递更多信息,省俭甄选时辰,收尾仅供参考爱色电影,IT之家悉数著作均包含本声明。