IBM ускоряет обучение ИИ на скорости света при минимальном энергопотреблении

IBM нашла способ ускорить обучение и работу генеративных моделей ИИ в 5 раз и сделать их более энергоэффективными. Вместо медных проводов для соединения компонентов дата-центров используются оптические сигналы, что устраняет физические ограничения передачи данных.

Компактность электроники и скорость перемещения данных являются ключевыми факторами производительности современных систем. Оптические технологии позволяют решать эти проблемы, обеспечивая быструю и эффективную работу больших ИИ-моделей. Традиционные медные провода стали узким местом, из-за чего большинство процессоров простаивают, ожидая передачи данных.

IBM разработала Co-Packaged Optics (CPO) с использованием Polymer Optical Waveguide (PWG). Эта технология заменяет медные провода оптическими сигналами, соединяя фотонные интегральные схемы (PICs) и внешние соединения, такие как оптоволокно. Тесты показывают, что она снижает энергопотребление в 5 раз и позволяет передавать терабиты данных на расстояние от метров до сотен метров, делая архитектуру дата-центров более гибкой. IBM заявляет, что снижение энергопотребления при обучении одной ИИ-модели позволит обеспечить энергией 5 000 домов в США на год.

Использование света для передачи данных сокращает время обучения крупных языковых моделей с трех месяцев до трех недель благодаря пропускной способности, превышающей возможности традиционных систем в 80 раз. "Эта технология сделает дата-центры готовыми к будущим вызовам, обеспечив более быструю и устойчивую передачу данных", — сказал Дарио Гил, старший вице-президент IBM.

• Слышишь сигнал — но не видишь машину: скрытая проблема в безопасности электромобилей
• Новые наушники от Anker: шумоподавление, до месяца автономной работы и зарядка для смартфона
• Учёные «замораживают» квантовое движение с помощью лазерного трюка: открытие откроет путь к новым технологиям
• Новое антибактериальное покрытие на основе белка "прыгающих блох" блокирует 100% бактерий
• Технология под рукой: сенсорные экраны смартфонов помогут следить за уровнем гидратации организма
• Эпоха экзафлопсных суперкомпьютеров наступила — что это значит и на что они способны?
• Частое использование ChatGPT связано с одиночеством и эмоциональной зависимостью
• Стартап по натрий-железным батареям готов бросить вызов литий-ионным батареям для долгосрочного хранения энергии