IBM 全新光学技术可缩短 GPU 闲置时间，大幅加快

作者: [db:作者]   点击次数:    发布时间: 2024-12-20 20:52

IT之家 12 月 11 日新闻，IBM 发布开辟出一种新的光学技巧，可能以光速练习 AI 模子，同时年夜幅节俭动力。该公司表现，经由过程将这项冲破利用于数据核心，练习一个 AI 模子所节俭的动力相称于 5000 个美国度庭一年的动力耗费。该公司说明说，固然数据核心经由过程光纤电缆与外部天下衔接，但外部依然应用铜线。这些铜线衔接着 GPU 减速器，而 GPU 减速器在等候来自其余装备的数据时会有大批时光处于闲暇状况，同时耗费能量并推高本钱。IBM 高等副总裁兼研讨总监 Dario Gil 称：“跟着天生式 AI 对更多动力跟处置才能的需要，数据核心必需退化，而共封装光学技巧（CPO）能够使这些数据核心面向将来。经由过程这一冲破，将来的芯片将像光纤电缆收支数据核心传输数据一样停止通讯，从而开启一个更快、更可连续的通讯新时期，可能处置将来的 AI 任务负载。”IT之家留神到，IBM 在一篇技巧论文中概述了其新的 CPO 原型。经由过程明显增添数据核心的带宽，能够最年夜限制地增加 GPU 的闲置时光，从而减速 AI 处置。IBM 称，年夜型言语模子（LLM）的练习时光能够从三个月收缩到三周。同时，更高的动力效力将下降动力耗费，并增加与练习 LLM 相干的本钱。告白申明：文内含有的对外跳转链接（包含不限于超链接、二维码、口令等情势），用于通报更多信息，节俭甄选时光，成果仅供参考，IT之家全部文章均包括本申明。 　　申明：新浪网独家稿件，未经受权制止转载。 -->