黄仁勋首谈 ChatGPT 专用 GPU，HGX A100 可提速十倍 ...

gamehellokity · 发表于 2023-4-1 07:55

如果要问，除了OpenAI和微软之外，谁是ChatGPT引领的人工智能（AI）革命中最大的赢家？毫无疑问，英伟达（NVDA，股价258.13美元，6380.26亿美元）算得上一个。凭借全球领先的图形处理单元（GPU），该公司走到了AI舞台的中央。
3月21日晚间，英伟达CEO黄仁勋在2023年GTC开发者大会上发表了主题演讲，介绍了英伟达在AI领域的最新进展，包括全新的量子计算系统、云服务平台、视觉图像系统等，以及这些技术将如何影响每个行业和日常生活。“我们正处于AI的iPhone时刻，”黄仁勋表示，“初创公司正在竞相打造颠覆性产品和商业模式，科技巨头也在寻求突破。”

图片来源：英伟达

多年来，黄仁勋一直倡导AI和机器学习，长期押注AI的潜力也注定了英伟达是ChatGPT浪潮中受益最多的公司之一。因为，对于大型语言模型来说，算力是其中最重要的一环，因此高度依赖英伟达强大的GPU芯片。
今年年初至今，英伟达股价的涨幅已超80%。英伟达2023财年第四季度财报显示，该公司的AI数据中心业务再次成为最大的收入来源。尽管四季度营收同比下滑21%，但基于AI芯片的销售，该公司在当季的表现略好于市场预期。

图片来源：谷歌财经

如今，谷歌、亚马逊等正在自研芯片的科技巨头，英伟达的未来之路并不好走。有分析认为，英伟达不太可能和巨头在云服务上直接竞争，但可能会推出特定的AI产品。此外，鉴于微软是唯一一家尚未推出AI芯片的超大规模厂商，其与英伟达的合作对双方来说意义重大。“英伟达可以更好地耕耘数据中心，微软不一定需要通过构建基础设施来与亚马逊竞争，而是依靠前者成为AI最大的参与者之一。”

maltadirk · 发表于 2023-4-1 07:57

“AI最卷之夜”后多板块狂飙，分析人士表示应用普及尚早

在经历过了AI最“卷”的一夜后，22日，IDC、东数西算（算力）、ChatGPT等多个板块纷纷上扬，多只股票逼近涨停。截至全天收盘，东数西算（算力）概念指数（885957）报1346.693点，涨幅3.87%；ChatGPT概念指数（886031）报1430.073点，涨幅2.85%；万德IDC指数（8841279）报2925.26点，涨幅5.39%。个股方面，青云科技-U（688316.SH）以20%涨停，寒武纪-U（688256.SH）涨幅17.07%，光环新网（300383.SZ）、昆仑万维（300418.SZ）、中富通（300560.SZ）、拓维信息（002261.SZ）等均涨超10%。
消息面上，美东时间21日，英伟达、谷歌、Adobe等科技巨头罕见地于同一天先后宣布推出生成式人工智能应用。截至美股收盘，谷歌录得涨收3.84%，英伟达涨收1.15%，Adobe涨收3.13%。21日晚间也被业内人士戏称为“AI最卷之夜”。
AI最卷之夜
美东时间21日，多家科技巨头公司突然同时“官宣”推出生成式人工智能方面产品。谷歌宣布推出聊天机器人“巴德”（Bard）的测试版本，以期PK OpenAI火爆的ChatGPT。图像软件公司Adobe宣布推出名为“萤火虫”(Firefly)的创意生成式AI服务，入局AIGC。Firefly目前提供两个模式，一种是利用文字生成图像的功能，另一种是字体效果编辑。
相比前两家公司，英伟达则占尽“高光”。英伟达在年度GTC开发者大会上发布了可为ChatGPT提速10倍的专用GPU芯片NVIDIA H100 NVL，据介绍这是一种具有94 GB内存和加速Transformer引擎的大语言模型（LLM）专用解决方案，配备了双GPU NVLINK的PCIE H100 GPU。
此外，为了加速生成式AI开发及部署，英伟达宣布推出四款全新推理GPU——L4 Tensor Core GPU、L40 GPU、H100 NVL GPU、Grace Hopper超级芯片，分别擅长AI视频、图像生成、ChatGPT等大型语言模型的推理加速、推荐系统和大型语言模型的AI数据库。
除了硬件外，在应用方面，英伟达展示了全新的NVIDIA AI Foundations模型，涵盖NVIDIA NeMo语言和NVIDIA Picasso图像、视频和3D等服务。
在GTC开发者大会上，英伟达CEO黄仁勋发表了名为《切勿错过AI的决定性时刻》（Don&#39;t Miss This Defining Moment in AI）的演讲，演讲期间，他多次使用“iPhone时刻”来形容AI当下的发展。
自OpenAI发布ChatGPT以来，生成式人工智能应用迎来了一波爆发式的涌现。日前微软、亚马逊等科技巨头也都推出类GPT的应用，即便是财报数据不佳的Meta也在业绩发布会上将对于人工智能的态度摆到了和元宇宙同样的高度。国内方面，百度此前推出文心一言，复旦大学邱锡鹏团队推出国内首款类ChtaGPT应用MOSS。
对于各家巨头“卷”生成式人工智能这一现象，业内人士告诉记者，如果从硬件上来看，人工智能芯片从定义到开发再到推向市场，企业积淀的时间是以年为单位的，英伟达的提前布局更有前瞻性眼光。不过应用软件的开发时间将会相对缩短很多。另外，开发时间也取决于应用能够实现的功能。不排除企业有通过生成式人工智能提升公司产品和服务价值的打算，不过对于科技巨头而言，利用现有的人才、技术和算力资源，开发一款轻量级的应用来“蹭蹭热度”也未尝不是一种可行的行为。
缺口确实存在，但对待热点亦需谨慎
不过对于目前的多数公司而言，算力仍是横亘在生成式人工智能与公司之间的必须跨越的“槛”。而黄仁勋在GTC开发者大会上“将通过中国云服务商提供AI超算能力，中国初创公司也能开发大语言模型。”等言论也直接成为引爆市场的导火线。
民生证券的研报显示，ChatGPT带动AI算力增长，数据中心作为底层硬件核心环节，承担算力部署、运维的关键作用，第三方头部IDC运营厂商、IDC储能温控环境、人工智能芯片等行业有望受益。
记者今晨以投资人身份致电寒武纪和浪潮信息，上述两家公司证券部人士均表示，近期生成式人工智能的批量涌现确实对公司的股价造成了一部分影响。
根据艾瑞咨询统计，2022年IDC下游客户中，云+互联网厂商占比约62%。当前国内ChatGPT布局仍集中在互联网厂商中，且主要集中于北京、上海、深圳等核心城市。预计未来市场对于算力的需求将进一步加大。而从国内数据中心的能够提供的算力来看，为支持ChatGPT 3640PF-days算力，需要投资约7~8个标准数据中心（按500P算力为例）才能满足需求。
证券分析人士告诉记者，以国家先进计算产业创新（宜昌）中心项目投资额为参考，ChatGPT带动数据中心投资额约240亿元。考虑到国内GPU及AI性能仍需跟进，若实现同等算力需更高IDC投资额，这将是一个非常大的市场。不过，这也并不是一朝一夕、市场一冷一热就能解决的事情。
3月21日，昆仑万维在深交所互动易平台上表示，为支持公司在中国版类ChatGPT领域的探索，公司近日已合计采购约4400万美元的硬件设备。
不过同样值得关注的是，3月16日晚，昆仑万维回复深交所关注函表示，截至目前，公司AIGC、人工智能等业务产品尚未产生实际收入。公司和奇点智源合作开发中国版类ChatGPT，预计今年内将发布中国版类ChatGPT。中国版类ChatGPT的知识产权归奇点智源所有，后续公司享有中国版类ChatGPT商业化产生的净利润的50%，但后续能否顺利实现商业化存在较大的不确定性。
上述分析人士也对记者表示，从目前国内的技术发展状况来看，类ChatGPT的应用想要得到成熟广泛的普及，可能要等到2025年。而在此之前，需要对市场热点持谨慎的态度。
“AI最卷之夜”后多板块狂飙，分析人士表示应用普及尚早

Arzie100 · 发表于 2023-4-1 08:04

为什么同样做为GPU厂商的AMD（ATI），却没能抗衡英伟达呢？大部分人一谈到AI就想到英伟达？
其实一直以来，英伟达的护城河是cuda。

CUDA是NVIDIA公司开发的GPU编程框架，是用于计算密集型应用的并行计算平台，可以使用CUDA来实现GPU加速计算。CUDA提供了一组C/C++编程接口，可以让开发者在GPU上运行自定义的并行计算任务。

CUDA并不是一个新鲜的事务，大概2007前后，英伟达就研发出来了。而且慢慢扩展生态，当前的AI库，TensorFlow，pytorch，yolo, openpose等知名的AI库和框架，都有相应的cuda加速版本。
你听过有大学生买A卡的笔记本来学习深度学习的吗？

RecursiveFrog · 发表于 2023-4-1 08:09

第一次知道芯片厂竟然有如此大的计算需求。
老黄说台积电有两万台服务器专门用来计算光刻掩模的形状，将来换成GPU计算之后会把时间缩短90%以上。
那中芯国际有没有计算掩模的数据中心？

fwalker · 发表于 2023-4-1 08:15

这事完全在意料之中，毕竟AI要大算力这已经不是新闻了，黄仁勋不捞一笔才有病呢。
我觉得这个事对于游戏党来说才是大事，毕竟这老黄又找到金主爸爸了，他还会有兴趣给大家生产显卡吗？
会才有病呢！
看来以后不管是工程作图，还是打游戏，都离不开云服务了，大家对老黄的期待只能换来失望，还是寄希望于华为的6G更实在。

ChuanXin · 发表于 2023-4-1 08:21

提速10倍！黄仁勋首谈ChatGPT专用GPU，英伟达GTC大会还有哪些看点？

每经记者文巧每经编辑高涵
如果要问，除了OpenAI和微软之外，谁是ChatGPT引领的人工智能（AI）革命中最大的赢家？毫无疑问，英伟达（NVDA，股价258.13美元，6380.26亿美元）算得上一个。凭借全球领先的图形处理单元（GPU），该公司走到了AI舞台的中央。
3月21日晚间，英伟达CEO黄仁勋在2023年GTC开发者大会上发表了主题演讲，介绍了英伟达在AI领域的最新进展，包括全新的量子计算系统、云服务平台、视觉图像系统等，以及这些技术将如何影响每个行业和日常生活。“我们正处于AI的iPhone时刻，”黄仁勋表示，“初创公司正在竞相打造颠覆性产品和商业模式，科技巨头也在寻求突破。”

图片来源：英伟达

多年来，黄仁勋一直倡导AI和机器学习，长期押注AI的潜力也注定了英伟达是ChatGPT浪潮中受益最多的公司之一。因为，对于大型语言模型来说，算力是其中最重要的一环，因此高度依赖英伟达强大的GPU芯片。
今年年初至今，英伟达股价的涨幅已超80%。英伟达2023财年第四季度财报显示，该公司的AI数据中心业务再次成为最大的收入来源。尽管四季度营收同比下滑21%，但基于AI芯片的销售，该公司在当季的表现略好于市场预期。

图片来源：谷歌财经

如今，谷歌、亚马逊等正在自研芯片的科技巨头，英伟达的未来之路并不好走。有分析认为，英伟达不太可能和巨头在云服务上直接竞争，但可能会推出特定的AI产品。此外，鉴于微软是唯一一家尚未推出AI芯片的超大规模厂商，其与英伟达的合作对双方来说意义重大。“英伟达可以更好地耕耘数据中心，微软不一定需要通过构建基础设施来与亚马逊竞争，而是依靠前者成为AI最大的参与者之一。”
AI正迎来“iPhone时刻”

GTC开发者大会于3月20日~23日举行，本届大会将举办超过650场由技术、商业、学术和政府领域领导者主持的会议。
在3月21日晚的主旨演讲中，黄仁勋介绍了英伟达在AI领域的最新进展，并展示了这些技术在包括科技、医疗、金融、图像、物流配送等各行各业的应用场景，并宣布了包括量子硬件公司 Anyon Systems、Atom Computing、电信巨头AT&T Corp、医疗保健技术提供商美敦力、甲骨文、Adobe、Getty Image等一批全新的合作伙伴。

图片来源：英伟达

“我们正处于AI的iPhone时刻，”黄仁勋说道，“初创公司正在竞相打造颠覆性产品和商业模式，而科技巨头们也在寻求突破。”他表示，新的AI技术和迅速蔓延的应用正在改变科学和各行各业，并为成千上万的新公司开辟新的疆域。这将是迄今为止最重要的一次GTC。
《每日经济新闻》记者总结了英伟达最新发布的几个重大进展。
1. DGX Quantum
英伟达宣布和Quantum Machines推出DGX Quantum，这是首个结合GPU和量子计算的系统，使用新的开源CUDA Quantum软件平台，该系统为从事高性能和低延迟量子经典计算的研究人员提供了革命性的新架构。
其中最主要的是H100 NVL，它将英伟达的两个H100 GPU拼接在一起，以部署像ChatGPT这样的大型语言模型（LLM）。“当前唯一可以实际处理ChatGPT的GPU是英伟达HGX A100。与前者相比，现在一台搭载四对H100和双NVLINK的标准服务器速度能快10倍，可以将大语言模型的处理成本降低一个数量级。”黄仁勋说。
2. DGX™ Cloud
英伟达宣布推出NVIDIA DGX™ Cloud，这是一项AI超级计算服务，能让企业立即访问为生成式AI和其他突破性应用程序训练高级模型所需的基础设施和软件。企业可按月租用DGX Cloud集群，确保快速轻松地扩展大型多节点训练工作负载的开发，而无需等待通常需求量很大的加速计算资源。微软Azure预计将在下个季度开始使用DGX Cloud，并且该服务将很快扩展到谷歌云。
3. BioNeMo Cloud
英伟达公布了全新的BioNeMo云服务，用于定制AI基础模型，以加速新蛋白质和疗法的创造，以及基因组学、化学、生物学和分子动力学领域的研究，安进和其他十几家生物科技初创公司已经接入该服务。
4. CV-CUDA
英伟达还公布了CV-CUDA测试版，这是一个用于云规模计算机视觉的开源GPU加速库。黄仁勋透露，微软、腾讯和百度等公司都正在采用CV-CUDA进行计算机视觉AI研究。
5. 将加速计算带入计算光刻领域
此外，英伟达宣布了一项突破——将加速计算带入计算光刻领域，使ASML、台积电和Synopsys等半导体领导者能够加速下一代芯片的设计和制造。
黄仁勋喊话硅谷初创企业：A100芯片是大模型必备

黄仁勋将GPT-4等生成式AI模型的能力增长描述为“计算的新时代”。他认为，对于许多公司来说，在获得使AI运行所需的资源和技能方面，仍然面临“无法逾越的障碍”，这也是英伟达提供AI服务业务的原因。具体来说，客户直接从该公司购买AI服务，部署预训练生成式AI模型，并利用该公司的DGX AI超级计算机。
而英伟达长期押注AI的决定了该公司是从ChatGPT浪潮中受益最多的公司之一，因其强大的GPU被用于训练GPT-4模型，以及用来运行AI超大规模云提供商服务器上的工作负载。GPU是其主要业务，占该公司收入的80%以上。
GPU即图形处理器，是一种专门在个人电脑、工作站、游戏机和一些移动设备上做图像加速和通用计算工作的微处理器。“大约十年前，我们就看到，这种做软件的方式可以改变一切，”黄仁勋在近期接受CNBC采访时这样说道，“我们制造的每一个芯片都专注于AI，这从各个方面改变了英伟达。”
事实证明，这是英伟达做过的最正确的决定之一。对于研究大型语言模型的公司来说，算力是其中最重要的一环，AI大模型的推理和训练高度依赖英伟达的GPU芯片。缺少芯片会导致算力不足，计算能力不足意味着无法处理庞大的模型和数据量，最终的结果是模型存在智商差距。美国银行证券的半导体分析师Vivek Arya作了一个比喻，“计算能力现在基本上是硅谷的货币。”
鉴于英伟达在高性能GPU方面的技术领先地位，一些云计算专业人士认为，1万颗英伟达A100芯片是一个好的AI模型的算力门槛。而微软为OpenAI构建的用于训练其模型的AI超级计算机就配备了1万颗英伟达的GPU芯片。
A100芯片是英伟达性能最好的芯片，现在售价约为1万美元。市场研究公司TrendForce在一份报告中计算得出，要处理1800亿参数的GPT-3.5大型模型，需要的GPU芯片数量高达2万颗，未来GPT大模型商业化所需的GPU芯片数量甚至会超过3万颗。
黄仁勋在接受CNBC采访时回忆道，大概五年前，当英伟达生产出第一个超级AI芯片时，他亲手把这片芯片交给了ChatGPT的开发商OpenAI，这也是全球首个这样的芯片。
如今，ChatGPT席卷全球，黄仁勋表示，“我们是全球AI的发动机。全球有超过3.5万家公司——不论是科技巨头还是初创企业，都在使用英伟达的产品来开发AI，领域从消费者互联网、生物科学到机器人研发等。”
他同时还喊话硅谷初创企业，称英伟达还有很多A100芯片。他表示，今天的AI行业，非常像手机的iPhone时刻，是一个革命性的转变时刻。“对今天的创业者来说，创业是和AI一起进行的，A100芯片驱动的超级AI计算机将成为你的创业伙伴。里面的算法、庞大的数据等等都将成为创业计划的一部分，这是一个很大的转变，这也将成为AI行业的分水岭。”他这样说道。
外界普遍认为，英伟达的AI系统很贵，只有科技巨头才能买得起。黄仁勋说，“AI数据中心现在的价格是1亿美元，但是可以由100家公司共同使用，因此，这些成本对这些公司来说，基本上是九牛一毛。而且从芯片研发的角度来说，我们花了20到30亿美元才研发出来A100这款AI芯片。更不要说我请芯片代工厂制造这些芯片，以及用这些芯片来进行大规模语言模型训练产生的成本了。”
英伟达的未来：推出AI特定产品，与微软的合作

自ChatGPT掀起这场AI风暴后，英伟达股价节节走高。今年年初至今，英伟达股价的涨幅已超80%。黄仁勋表示，并没有预见今天的一切，也不把英伟达的成功视作是幸运。
“我预见的是，加速计算机的发展，而不是AI的发展，”黄仁勋这样说道，“我们做了很多伟大的决定，包括搭建平台，并且让每个人都能够连接到这个平台，和全球的研究型大学建立联系等。我们只是相信，在某一天，总有一些新的东西会出现。”
英伟达在AI芯片上的部署也帮助其数据中心收入在2020年首次超过游戏部门，企业相关收入目前占该公司收入的大部分。上个月，英伟达发布了2023财年第四季度的财报，数据显示，该公司的数据中心业务再次成为最大的收入来源，该业务营收在当季同比增长11%，但环比下降6%。

图片来源：Tech Monitor

但是，由于经济放缓，英伟达的总体收入停滞不前。财报显示，2023财年第四季度营收为60.5亿美元，同比下滑21%。尽管如此，上个季度它的表现略好于市场预期，这主要是基于AI芯片的销售。
Gartner分析师Alan Priestley表示，尽管市场上大型语言模型和相关工具的数量与日俱增，但英伟达的GPU不太可能很快出现供不应求的情况。“目前对高端性能的需求正在推动英伟达的业务，”他表示，“我们仍处于这种生成式AI趋势的斜坡上，没有人真正知道它会在哪里结束。”
Alan Priestley认为，英伟达的中长期前景不太明朗。因为，它不得不与一些想要分一杯羹的科技巨头抗衡。例如，去年10月，谷歌发布了其最新的Tensor处理单元，这些单元经过优化来训练和运行AI和机器学习模型；亚马逊市场领先的云平台AWS也拥有自己的内部芯片。“我们将看到这种情况越来越多地发生，”Priestley说道。
面对日益激烈的竞争，Forrester高级分析师Tracy Woo认为，英伟达有可能会提供能与超大规模厂商竞争的服务和产品。不过，大众不太可能看到英伟达推出面向所有业务的云服务（与超大规模厂商竞争的启动成本至少为10亿美元），但可能会看到特定用于AI的产品。
Woo说：“没有人会尝试全面与超大规模企业竞争，但你可以试图去蚕食某些市场领域，因为他们（超大规模企业）不一定能主宰一切。”
除此之外，Woo表示，英伟达与微软的合作意义重大，后者是唯一一家尚未推出AI芯片的超大规模厂商。两家公司在去年11月宣布了一项“多年合作”，微软将使用英伟达的GPU在其Azure云平台上构建强大的AI超级计算机。
另一方面，Woo表示，与英伟达保持紧密联系可能也是微软与亚马逊竞争对手保持同步的一种方式。“这可能是一个非常富有成效的合作伙伴关系，他们都能从中受益，”她说道，英伟达可以更好地耕耘数据中心，而微软不一定需要通过构建自己的基础设施来与亚马逊竞争，而是依靠前者成为AI最大的参与者之一。
如需转载请与《每日经济新闻》报社联系。
未经《每日经济新闻》报社授权，严禁转载或镜像，违者必究。

		自动登录	找回密码
密码			立即注册

黄仁勋首谈 ChatGPT 专用 GPU，HGX A100 可提速十倍 ...

本帖子中包含更多资源

本帖子中包含更多资源