时间:2022-07-16 来源:系统堂 游览量: 次
此前,NVIDIA 首席科学家兼研究高级副总裁 Bill Dally 在 GTC 2022 上分享了 NVIDIA 的一些研发信息。其中涉及使用机器学习 (ML) 和人工智能 (AI) 技术来开发、改进和加速GPU 设计。过去几年,NVIDIA在AI和ML领域的努力不容忽视,其GPU已经成为很多数据中心和HPC的首选。
目前,NVIDIA主要使用最先进的EDA(电子设计自动化)工具来设计GPU。它还使用了一种名为 PrefixRL 的人工智能模型,该模型使用深度强化学习来优化并行前缀电路,从而使 Nvidia 能够设计出更小面积的芯片,同时提供相似或更好的性能。
根据英伟达,在最新的 Hopper 架构 GPU 上有近 13,000 个电路实例,这些实例完全由 AI 创建。从NVIDIA展示的对比图可以看出,基于PrefixRL AI设计的64b加法器电路与传统EDA工具相比,面积缩小了25%,但速度和功能相当。
训练像 PrefixRL 这样的模型是一项计算密集型任务,物理模拟需要每个 GPU 256 个 CPU 和超过 32,000 个 GPU 小时来训练 64b 案例。Nvidia 为此开发了 Raptor,这是一个内部分布式强化学习平台,利用 Nvidia 硬件的独特优势进行强化学习。
Nvidia 表示,这应该是第一种使用深度强化学习代理来设计算术电路的方法,并希望这种方法能够成为将 AI 应用于实际电路设计的一个问题。