Ученые близки к созданию нейронных сетей с повышенной ответственностью

Сложно сказать, как бы развивались события в «Терминаторе», если бы Скайнет засомневался в своей непогрешимости и признал себя недостаточно ответственным, чтобы хранить все ядерные ключи Америки.

Но сегодняшняя научная реальность уже вплотную подошла к созданию искусственного интеллекта, способного оценивать свою компетентность. Речь идет о нейронных сетях, которые понимают, когда они становятся ненадежными и не могут в полном объеме выполнять свои функции.

Такие нейронные сети в определенной мере имитируют человеческий мозг, при этом могут работать с такими массивами информации, которые человек проанализировать не в состоянии. Например, сегодня уже используется медицинская диагностика с помощью ИИ, автономное вождение автомобиля.

Александр Амини из Массачусетского технологического института, много лет отдавший созданию нейронных сетей, отмечает, что на данном этапе необходимо создать не просто высокопроизводительную модель, но и технологию, которой можно полностью доверять. Новая нейронная система может генерировать собственный уровень уверенности, а также прогнозировать свои возможности.

Обученная система была протестирована на оценке глубины в разных частях изображения. Принцип аналогичен тому, что заложен в автономном вождении, когда ИИ определяет расстояние до перекрестка и решает, стоит ли ехать или лучше подождать.

С работой сеть справлялась, а также отмечала моменты, когда она была наименее уверенной. Именно в этих случаях и появлялись иногда погрешности в определении глубины. Как отмечает соавтор проекта Даниэла Рус, оценка неопределенности модели позволит спрогнозировать, сколько ошибок она может совершить и какие недостающие данные могут улучшить ее работу.

• Слышишь сигнал — но не видишь машину: скрытая проблема в безопасности электромобилей
• Новые наушники от Anker: шумоподавление, до месяца автономной работы и зарядка для смартфона
• Учёные «замораживают» квантовое движение с помощью лазерного трюка: открытие откроет путь к новым технологиям
• Новое антибактериальное покрытие на основе белка "прыгающих блох" блокирует 100% бактерий
• Технология под рукой: сенсорные экраны смартфонов помогут следить за уровнем гидратации организма
• Эпоха экзафлопсных суперкомпьютеров наступила — что это значит и на что они способны?
• Частое использование ChatGPT связано с одиночеством и эмоциональной зависимостью
• Стартап по натрий-железным батареям готов бросить вызов литий-ионным батареям для долгосрочного хранения энергии