IBM ускоряет обучение ИИ на скорости света при минимальном энергопотреблении

IBM нашла способ ускорить обучение и работу генеративных моделей ИИ в 5 раз и сделать их более энергоэффективными. Вместо медных проводов для соединения компонентов дата-центров используются оптические сигналы, что устраняет физические ограничения передачи данных.

Компактность электроники и скорость перемещения данных являются ключевыми факторами производительности современных систем. Оптические технологии позволяют решать эти проблемы, обеспечивая быструю и эффективную работу больших ИИ-моделей. Традиционные медные провода стали узким местом, из-за чего большинство процессоров простаивают, ожидая передачи данных.

IBM разработала Co-Packaged Optics (CPO) с использованием Polymer Optical Waveguide (PWG). Эта технология заменяет медные провода оптическими сигналами, соединяя фотонные интегральные схемы (PICs) и внешние соединения, такие как оптоволокно. Тесты показывают, что она снижает энергопотребление в 5 раз и позволяет передавать терабиты данных на расстояние от метров до сотен метров, делая архитектуру дата-центров более гибкой. IBM заявляет, что снижение энергопотребления при обучении одной ИИ-модели позволит обеспечить энергией 5 000 домов в США на год.

Использование света для передачи данных сокращает время обучения крупных языковых моделей с трех месяцев до трех недель благодаря пропускной способности, превышающей возможности традиционных систем в 80 раз. "Эта технология сделает дата-центры готовыми к будущим вызовам, обеспечив более быструю и устойчивую передачу данных", — сказал Дарио Гил, старший вице-президент IBM.

• Частое использование ChatGPT связано с одиночеством и эмоциональной зависимостью
• Стартап по натрий-железным батареям готов бросить вызов литий-ионным батареям для долгосрочного хранения энергии
• ABB разрабатывает высокоманевренный и высокоэффективный морской винт
• Изменения симметрии в крошечных кристаллах под воздействием света позволяют исследователям создавать материалы с заданными свойствами
• Солнечная пленка, которую можно наклеить где угодно для генерации энергии
• Двойно магичное ядро свинца-208 удивляет неожиданными свойствами формы
• Как мозг строит сложные карты для навигации и запоминания мира
• Пластиковый лед