您当前的位置:科技视窗网 > 要闻
10

由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

时间:2025-01-15 16:06:00    来源:网络    阅读量:7751   会员投稿

当前,一个令人振奋的趋势是人工智能 (AI) 应用和功能在各种边缘侧设备上快速扩展和普及。随着 AI 的不断发展和进步,对于 AI 研究员、数据科学家、开发者和学生而言,获取高性能算力开发或运行的模型(语言模型、视觉模型或多模态模型)变得至关重要。鉴于 AI 创新的步伐空前加快,行业需要确保开发者在云端边缘侧能获得高性能算力,从而直接获得更多的新功能。

开发者实现唾手可得的突破性AI 性能

在今年的国际消费类电子产品展览会 (CES) 上,NVIDIA创始人兼首席执行官黄仁勋在主题演讲中发布了个人 AI 超级计算机 NVIDIA Project DIGITS,朝着 “随处可开发和部署 AI” 的愿景又迈近了重要一步。基于 Linux 系统的 Project DIGITS 搭载了 Arm CPU 核心,使每位 AI 开发者都能拥有一套高性能的 AI 桌面系统。

1736853911714910.png

图:由 Arm 驱动 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超级芯片,搭载 NVIDIA Grace CPU  NVIDIA Blackwell GPU、新一代 CUDA®core和第五代 TensorCores,通过 NVIDIA NVLink®-C2C 片间互连技术实现连接,并配有 128GB 的统一的高一致性内存。NVIDIA Grace CPU 搭载了先进的高性能 Arm Cortex-X 和 Cortex-A 技术,配置 10 个 Cortex-X925  10 个 Cortex-A725 CPU 核心NVIDIA GB10 超级芯片能以 FP4 计算精度提供高达 1 PFLOPS (1,000 TFLOPs)  AI 性能,使开发者能对 AI 大模型进行原型设计、微调和推理,同时还能与云端或数据中心环境无缝对接,实现协同工作。

Arm 计算平台的价值

借助无处不在的 Arm 计算平台,新的 AI 模型和应用能更高效、更快速地在边缘侧运行。在消费级技术市场,不论是用于 Project DIGITS最新 Arm CPU,或是集成在Arm 终端计算子系统 (CSS) 的一部分,Arm CPU 技术已成为市场中高性能边缘侧设备的核心驱动力这些CPU技术经过精心优化,可在各种实际用例和工作负载中实现最大性能和最高效率。

Arm 计算平台还兼具灵活性,可对不同的 AI 应用场景使用不同的计算引擎。在 NVIDIA Project DIGITS 中,基于 Arm 架构的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相协作,使开发者能够将这些组件用于种工作负载。这种异构计算策略对于最大化 AI 性能,同时管理内存利用率和功耗至关重要。

NVIDIA SoC 产品副总裁 Ashish Karandikar 表示:我们与 Arm  GB10 超级芯片的合作上巧妙地结合了 NVIDIA 的 AI 专业知识与 Arm 可扩展计算平台,实现出众的性能和,将推动下一代 AI 创新。随着 Project DIGITS的推出,每位 AI 开发者和研究员都拥有一台功能强大的超级计算机。

释放软件创新潜能

对于开发者而言,拥有一个完全集成的软硬件 AI 平台至关重要。ProjectDIGITS使用开源 Linux 操作系统,用户可以访问资源丰富的 NVIDIA AI 软件库,包括 NVIDIA NGC 目录和NVIDIA 开发者门户网站中提供的软件开发套件编排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。

Arm  NVIDIA Grace Hopper 和 Grace Blackwell 在数据中心的合作为数据中心和边缘侧设备环境提供一致的平台架构,使开发者能够无缝地使用同一套工具进行 AI 应用开发。此外,Arm 不断积极推动开源开发者社区的重要工作,旨在开发出适配的软件,加速AI 的全面部署。目前全球超过2,000 万软件开发者在 Arm 计算平台上构建自己的应用程序,共同推动着一个快速创新、日益壮大的开源社区

赋予高性能 AI 算力的理想平台

Arm 作为当前和未来 AI 领域应用最广泛的计算平台,自然而然地成为了 Project DIGITS 中 GB10 超级芯片的理想平台。Project DIGITS是一个功能强大的个人计算机桌面平台,能够运行高达 200B 参数的 AI 大模型,让原本的不可能变为可能。这种对 AI 生态系统的广泛影响力,为全球数百万开发者带来了灵活、高性能且高能效的 AI 功能。通过与 NVIDIA 及 Arm 强大的软件生态系统紧密的合作,我们翘首以待下一代极具创新的 AI 应用的问世



声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

为您推荐
  • 2022京东云峰会广州站举行,以数智供应链服务广东产业数字化

    2022京东云峰会广州站举行,以数智供应链服务广东产业数字化
    日前,以数字智能供应链驱动新增长为主题的京东云城市峰会广州站成功举办本次活动围绕在当前不确定的行业环境下,企业关注的发展韧性,数字化升级等话题展开京东云发布了多项基于京东的解决方案COM围绕数字化智能供应链的领先供应链实践,来自广东零售,交......
    2022-05-26

  • 首届全球绿氢大会中国区平行论坛在北京大兴成功举办

    首届全球绿氢大会中国区平行论坛在北京大兴成功举办
    大兴国际氢能示范区作为全球绿色氢组织的战略合作伙伴,共同举办了中国区域平行论坛平行论坛围绕中国:绿色氢动力,氢能产业发展中长期规划的主题,与全球绿色氢产业同仁共同探讨可再生能源和绿色氢的发展模式和思路,呼吁全世界认识和关注能源转型,实现全球......
    2022-05-18

  • 80% 的 Steam top 100 游戏已支持在 Linux 系统中游玩

    80% 的 Steam top 100 游戏已支持在 Linux 系统中游玩
    IT之家 12月21日消息,根据统计平台ProtonDB的数据,80%的Steamtop100游戏已支持在Linux系统中游玩。根据报告数据,支持运行的评分标准为:白金:开箱即玩,完美运行金:经过调整后完美运行银:虽然有小问题,但......
    2021-12-23

  • OpenCloudOS 开源操作系统社区成立,腾讯等倡议发起:完全中立、全面开放

    OpenCloudOS 开源操作系统社区成立,腾讯等倡议发起:完全中立、全面开放
    IT之家 12月23日消息,12月22日,开源操作系统社区OpenCloudOS正式宣布成立,腾讯及宝德、北京初心、北京红旗、飞腾、浪潮、龙芯中科、OPPO、先进开源、中电科申泰、中科方德、兆芯等20余家操作系统生态厂商及用户成为......
    2021-12-23

  • 获得场景视频常江出席2021培博会 高效赋能企业在线学习

    获得场景视频常江出席2021培博会 高效赋能企业在线学习
    ▲获得场景视频常江出席2021培博会近期,2021培博会在北京盛大举行,获得场景视频人力资源中心及业务拓展中心副总裁常江受邀出席了本次会议,与现场各行业知名企业家、学者共聚一堂,从行业发展、组织发展、技术变革等方面探讨企业培训、在线学习的新......
    2021-12-23