发布日期：2024-10-23 14:30 点击次数：58
“这是我听过的黄仁勋最佳的采访！”爱色电影
英伟达 CEO 黄仁勋的一场炉边言语再次引起热议：
英伟达从来莫得一天驳斥过市集份额。
咱们所征询的只是：何如创造下一个东西？何如将以前需要一年才能完成的飞轮裁减到一个月？
濒临 Azure 和 AWS 等正在自主构建 ASIC 芯片的云野心大客户，老黄打了个譬如：
公司受到鱼塘大小的放浪，独一的标的是用遐想力扩大鱼塘（指创造新市集）。
天然了，除了说起英伟达，老黄还征询了 AGI 的智能彭胀、机器学习的加快、推理与磨练的紧迫性……
固然时长感东谈主（近 1 个半小时），但一大波网友仍是看完并交起了功课（运转卷了是吧！）
网友：学起来！学起来！
鉴于视频较长，量子位先平直给巨匠划重心了，老黄的主要不雅点包括（省流版）：
“口袋里的 AI 助理”将很快以某种时势出现，尽管领先可能会不好意思满；
英伟达的竞争上风在于竖立了从 GPU、CPU、相聚到软件和库的全栈平台；
彭胀东谈主工智能的重心已从磨练前转变到磨练后和推理；
推理（inference）时野心将动作一个全新的智能彭胀向量；
将来推理的增长将纷乱于磨练的增长；
闭源和开源将共存，开源模子可能用于创建特定鸿沟的愚弄措施；
……
（以下为重心部分整理）
Q：对于个东谈主 AI 助理的发展远景，您觉得咱们何时能在口袋里装上一个无所不知的 AI 助理？
A：很快就会以某种时势出现。这个助理一运转可能不够好意思满，但会跟着时辰推移不停改造，这是技巧发展的势必规定。
Q：咫尺 AI 鸿沟的发展变化速率是否是您见过最快的？爱色电影
A：是的，这是因为咱们重新发明了野心。在以前 10 年里，咱们将野心的边缘本钱诽谤了 10 万倍，而按照摩尔定律可能只可诽谤 100 倍。
咱们通过以下花样收场了这少量：
引入加快野心，将蓝本在 CPU 上后果不高的服务转变到 GPU 上
发明新的数值精度
斥地新架构 (如张量中枢)
领受高速内存 (HBM)
通过 MVLink 和 InfiniBand 收场系统彭胀
这种快速发展使咱们从东谈主工编程转向了机器学习，通盘技巧栈齐在快速创新和罕见。
Q：模子限度彭胀方面有哪些变化？
A：以前咱们主要关注预磨练模子的彭胀（重心在模子大小和数据限度），这使得所需野心武艺每年增多 4 倍。
咫尺咱们看到后磨练 (post-training) 和推理阶段也在彭胀。东谈主类的想维过程不可能是一次性完成的，而是需要快想维、慢想维、推理、反想、迭代和模拟等多个门径。
况且，以前东谈主们觉得预磨练难，推理浅薄，但咫尺齐很难了。
Q：与 3-4 年前比较，您觉得 NVIDIA 今天的上风是更大如故更小？
A：内容上更大了。以前东谈主们觉得芯片遐想即是追求更多的 FLOPS 和性能谋略，这种想法仍是落后。
咫尺的关节在于通盘机器学习系统的数据活水线 (flywheel)，因为机器学习不单是是软件编程，而是触及通盘数据处理经过。从一运转的数据管制就需要 AI 参与。数据的采集、整理、磨练前的准备等每个门径齐很复杂，需要无数处理服务。
Q：与 Intel 等公司比较，Nvidia 在芯片制造和遐想方面有什么不同的政策？
A：Intel 的上风在于制造和遐想更快的 x86 串行处理芯片，而 Nvidia 选拔不同政策：
在并行处理中，不需要每个晶体管齐很出色
咱们更倾向于使用更多但较慢的晶体管，而不是更少但更快的晶体管
愿意有 10 倍数目、速率慢 20% 的晶体管，也不要数目少 10 倍、速率快 20% 的晶体管
Q：对于定制 ASIC (如 Meta 的推理加快器、亚马逊的 Trainium、Google 的 TPU) 以及供应阑珊的情况，这些是否会改变与 NVIDIA 的相连动态？
A：这些齐是在作念不同的事情。NVIDIA 发奋于于为这个新的机器学习、生成式 AI 和智能 Agent 寰球构建野心平台。
在以前 60 年里，咱们重新发明了通盘野心技巧栈，从编程花样到处理器架构，从软件愚弄到东谈主工智能，每个层面齐发生了变革。咱们的标的是创建一个随地可用的野心平台。
Q：NVIDIA 动作一家公司的中枢主张是什么？
A：构建一个无处不在的架构平台。咱们不是在争夺市集份额，而是在创造市集。咱们专注于创新和贬责下一个问题，让技巧罕见的速率更快。
Q：NVIDIA 对待竞争敌手和相连伙伴的格调是什么？
A：咱们对竞争很透露，但这不会改变咱们的职责。咱们向 AWS、Azure 等相连伙伴提前共享路子图，保抓透明，即使他们在斥地我方的芯片。对于斥地者和 AI 初创公司，咱们提供 CUDA 动作和洽进口。
Q：对 OpenAI 的宗旨何如？何如看待它的崛起？
A： OpenAI 是咱们这个时期最紧迫的公司之一。固然 AGI 的具体界说和时辰点并不是最紧迫的，但 AI 武艺的发展路子图将会特地壮不雅。从生物学家到时事酌量者，从游戏遐想师到制造工程师，AI 仍是在转变各个鸿沟的服务花样。
我特地赏玩 OpenAI 鼓励这一鸿沟的速率和决心，并为不错资助下一代模子感到快意。
Q：您觉得模子层是否正在走向商品化，以及这对模子公司的影响是什么？
A：模子层正在商品化，Llama 的出现使得构建模子变得愈加低廉。这将导致模子公司的整合，唯有那些领有经济引擎并好像抓续投资的公司才能糊口。
Q：您何如看待 AI 模子的将来，以及模子与东谈主工智能之间的分辨？
A：模子是东谈主工智能必不可少的构成部分，但东谈主工智能是一种武艺，需要愚弄于不同的鸿沟。咱们将看到模子层的发展，但更紧迫的是东谈主工智能何如愚弄于各式不同的愚弄场景。
Q：您何如看待 X 公司，以及他们竖立大型超等集群的建立？
A：他们在 19 天内（相似需要 3 年）建造了一个领有 100，000 个 GPU 的超等野情绪集群。这展示了咱们的平台的力量，以及咱们好像将通盘生态系统集成在一谈的武艺。
Q：是否定为散播式野心和推理彭胀将会发展到更大限度？
A：是的，我对此特地温雅和乐不雅。推理时野心动作一个全新的智能彭胀向量，与只是构建更大的模子不止天渊。
Q：在东谈主工智能中，是否许多事情只可在运行时完成？
A：是的，许多智能服务不行先验地完成，许多事情需要在运行时完成。
Q：您何如看待东谈主工智能的安全性？
A：咱们必须构建安全的东谈主工智能，并为此需要与政府机构相连。咱们仍是在竖立许多系统来确保东谈主工智能的安全性，并需要确保东谈主工智能对东谈主类是有意的。
Q：你们公司罕见 40% 的收入来自推理，推理的紧迫性是否因为推理链而大大增多？
A：没错，推理链让推理的武艺培育了十亿倍，这是咱们正在资格的工业翻新。将来推理的增长将纷乱于磨练的增长。
Q：你们何如看待开源和闭源东谈主工智能模子的将来？
A：开源和闭源模子齐将存在，它们对于不同的行业和愚弄齐是必要的。开源模子有助于激活多个行业，而闭源模子则是经济模子创新的引擎。
本文来自微信公众号：量子位（ID：QbitAI），作家：一水
告白声明：文内含有的对外跳转连气儿（包括不限于超连气儿、二维码、口令等时势），用于传递更多信息，省俭甄选时辰，收尾仅供参考爱色电影，IT之家悉数著作均包含本声明。