NVIDIA 推出 Grace Blackwell 桌面系统,让每位 AI 开发者都能触手可及
发布时间: 2025-07-21 16:10
NVIDIA Project DIGITS 搭载全新 GB10 超级芯片,成为全球最小的可运行 200B 参数模型的 AI 超级计算机
拉斯维加斯—CES—太平洋时间 2025 年 1 月 6 日— NVIDIA 推出个人 AI 超级计算机 NVIDIA® Project DIGITS,全球的 AI 研究员、数据科学家和学生都可获取 NVIDIA Grace Blackwell 平台的强大功能。
Project DIGITS 搭载全新 NVIDIA GB10 Grace Blackwell 超级芯片,最高可提供达 1 PFLOPS AI 性能,用于 AI 大模型的原型设计、微调及运行。
借助 Project DIGITS,用户可以使用自己的桌面系统开发和运行模型推理,并在加速的云或数据中心基础设施上无缝部署模型。
NVIDIA 创始人兼首席执行官黄仁勋表示:“AI 将成为每个行业的主流应用。借助 Project DIGITS,Grace Blackwell 超级芯片将惠及数百万开发者,将 AI 超级计算机置于每位数据科学家、AI 研究人员和学生的案头,助力他们参与并缔造 AI 时代。”
高能效的 GB10 超级芯片提供至高可达 1 PFLOPS 的 AI 性能 GB10 超级芯片是一款基于 NVIDIA Grace Blackwell 架构的片上系统 (SoC),能以 FP4 计算精度提供至高可达 1 PFLOPS AI 性能。
GB10 采用搭载最新一代 CUDA® core 和第五代 Tensor Cores 的 NVIDIA Blackwell GPU ,通过 NVLink®-C2C 片间互连与一颗高性能 NVIDIA Grace™ CPU 互联,该 CPU 采用 ARM 架构并具有 20 个高效节能内核。联发科是基于 ARM 架构的 SoC 设计的市场领导者,他们参与了 GB10 的设计,为一流的能效、性能和互连做出贡献。
GB10 超级芯片让 Project DIGITS 只需使用标准电源插座就能提供强大的性能。每个 Project DIGITS 都配有 128GB 的统一的高一致性内存和 4TB 的 NVME 存储。利用 Project DIGITS,开发者可以运行包含高达 200B 参数的大语言模型,加速 AI 创新。通过 NVIDIA ConnectX® 网络,可以将两台 Project DIGITS AI 超级计算机连接在一起,运行包含高达 4050 亿参数的模型。
Grace Blackwell AI 超级计算触手可及 借助 Grace Blackwell 架构,企业和研究员可以在运行基于 Linux 的 NVIDIA DGX OS 的本地 Project DIGITS 系统上进行模型原型设计、调优和测试,并将其无缝部署在 NVIDIA DGX Cloud ™、加速云实例或数据中心基础设施上。
开发者可以在 Project DIGITS 上制作 AI 原型,然后在使用相同的 Grace Blackwell 架构和 NVIDIA AI Enterprise 软件平台的云端或数据中心基础设施上进行扩展。
Project DIGITS 用户可以访问用于实验和原型设计的庞大 NVIDIA AI 软件库,包括 NVIDIA NGC 目录和 NVIDIA 开发者门户网站中提供的软件开发套件、编排工具、框架和模型。开发者可使用 NVIDIA NeMo ™ 框架进行模型微调,利用 NVIDIA RAPIDS ™ 库来加速数据科学,并运行 PyTorch、Python 和 Jupyter notebooks 等常用框架。
开发者还可以通过 NVIDIA 开发者计划使用 NVIDIA Blueprint 和 NVIDIA NIM ™ 微服务,进行研究、开发和测试,以构建代理式 AI 应用。当 AI 应用准备就绪,可从实验阶段转向生产环境时,NVIDIA AI Enterprise 许可证提供企业级的安全性、支持和 NVIDIA AI 软件的产品发布。
AI 的下一个重大时刻即将到来——确切地说,是 “看得见” 的时刻。
如今,全球共部署超过 15 亿台企业级摄像头,每年生成约 7 万亿小时的视频。然而,仅有其中一小部分得到了分析。
据估计,工业摄像头拍摄的视频中,仅有不足 1% 会被人类实时观看,这意味着关键运营事件可能在很大程度上被忽视。
这种忽视带来了高昂的代价。例如,制造商每年因产品质量欠佳或存在缺陷,会损失数万亿美元,然而,通过能够感知、分析并帮助人类采取行动的 AI 智能体,这些问题可以被提早发现,甚至被提前预测。
具备内置视觉感知能力的交互式 AI 智能体可以充当始终在线的视频分析师,帮助工厂更高效地运转,增强工人安全保障,维持交通顺畅,甚至可以提升运动员的竞技水平。
为了加速此类智能体的创建,NVIDIA 宣布用户可提前访问用于视频搜索与总结的新版 NVIDIA AI Blueprint 。该蓝图基于 NVIDIA Metropolis 平台构建,如今借助 NVIDIA Cosmos Nemotron 视觉语言模型 (VLM)、NVIDIA Llama Nemotron 大语言模型 (LLM) 以及 NVIDIA NeMo Retriever 的强大能力,为开发者提供了构建和部署能够分析大量视频和图像内容的 AI 智能体的工具。
该蓝图集成了 NVIDIA AI Enterprise 软件平台,其中包括用于 VLM、LLM 的 NVIDIA NIM 微服务、以及用于检索增强生成 的高级 AI 框架,以实现比实时观看快 30 倍的批量视频处理。
该蓝图包含多种代理式 AI 功能,如思维链推理、任务规划和工具调用,可以帮助开发者更简化地创建强大且多样的视觉智能体,解决各种问题。
具备视频分析能力的 AI 智能体可以与其他拥有不同技能的智能体相结合,以实现更复杂的代理式 AI 服务。企业可以灵活地从边缘到云端构建和部署自己的 AI 智能体。
视频分析 AI 智能体如何助力工业企业 具备视觉感知和分析技能的 AI 智能体可通过以下方式经过微调,助力企业进行工业运营
提高生产力并减少浪费: 智能体可以帮助确保在产品组装等复杂工业流程中遵循标准操作程序。经过微调,它们还可以仔细观察和理解细微的动作及其执行顺序。
通过优化空间利用来提高资产管理效率: 智能体可以通过 3D 体积估算,并整合不同摄像头的信息流,来帮助优化仓库中的库存存储。
通过自动生成事故报告和总结来提高安全性: 智能体可以处理大量视频,并将其总结为内容详实的事故报告。它们还可以帮助确保工厂中个人防护装备的合规使用,提高工业环境中的工人安全。
预防事故和生产问题: 无论是在仓库、工厂、机场,还是在交通路口或其他市政场所,AI 智能体都可以识别异常活动,快速降低运营和安全风险。
从过去汲取经验: 智能体可以搜索运营视频档案,从过去的资料中找到相关信息,并利用这些信息来解决问题或创建新流程。
用于体育、娱乐等领域的视频分析工具 视频分析 AI 智能体还将在体育产业发挥重要作用。体育产业在全球拥有规模达 5000 亿美元的市场,预计未来几年还将有数千亿美元的增长。无论是职业还是业余的教练、球队和联赛,都依赖视频分析来评估和提升球员表现,在优先考虑安全性的基础上,通过球员分析平台和数据可视化来提高球迷的参与度。借助具备视觉感知能力的 AI 智能体,运动员如今能够比以往更加深入地了解自身水平,并获得更多提升机会。
在 CES 主题演讲中,NVIDIA 创始人兼首席执行官黄仁勋展示了一款 AI 视频分析智能体,该智能体将一名业余棒球运动员的快球投球技巧与专业球员进行对比评估。通过对黄仁勋为旧金山巨人队投掷的开球视频进行分析,该视频分析 AI 智能体能够从而给出改进建议。