Ученые близки к созданию нейронных сетей с повышенной ответственностью

Сложно сказать, как бы развивались события в «Терминаторе», если бы Скайнет засомневался в своей непогрешимости и признал себя недостаточно ответственным, чтобы хранить все ядерные ключи Америки.
Но сегодняшняя научная реальность уже вплотную подошла к созданию искусственного интеллекта, способного оценивать свою компетентность. Речь идет о нейронных сетях, которые понимают, когда они становятся ненадежными и не могут в полном объеме выполнять свои функции.
Такие нейронные сети в определенной мере имитируют человеческий мозг, при этом могут работать с такими массивами информации, которые человек проанализировать не в состоянии. Например, сегодня уже используется медицинская диагностика с помощью ИИ, автономное вождение автомобиля.
Александр Амини из Массачусетского технологического института, много лет отдавший созданию нейронных сетей, отмечает, что на данном этапе необходимо создать не просто высокопроизводительную модель, но и технологию, которой можно полностью доверять. Новая нейронная система может генерировать собственный уровень уверенности, а также прогнозировать свои возможности.
Обученная система была протестирована на оценке глубины в разных частях изображения. Принцип аналогичен тому, что заложен в автономном вождении, когда ИИ определяет расстояние до перекрестка и решает, стоит ли ехать или лучше подождать.
С работой сеть справлялась, а также отмечала моменты, когда она была наименее уверенной. Именно в этих случаях и появлялись иногда погрешности в определении глубины. Как отмечает соавтор проекта Даниэла Рус, оценка неопределенности модели позволит спрогнозировать, сколько ошибок она может совершить и какие недостающие данные могут улучшить ее работу.
С этим материалом еще читают:
Ученые назвали слабоумие главным препятствием для путешествий на Марс

В четверг ожидается сильнейшая магнитная буря

Социальные сети раскрывают доходы пользователей

Еще из категории технологии:
- Технология под рукой: сенсорные экраны смартфонов помогут следить за уровнем гидратации организма
- Эпоха экзафлопсных суперкомпьютеров наступила — что это значит и на что они способны?
- Частое использование ChatGPT связано с одиночеством и эмоциональной зависимостью
- Стартап по натрий-железным батареям готов бросить вызов литий-ионным батареям для долгосрочного хранения энергии
- ABB разрабатывает высокоманевренный и высокоэффективный морской винт
- Изменения симметрии в крошечных кристаллах под воздействием света позволяют исследователям создавать материалы с заданными свойствами
- Солнечная пленка, которую можно наклеить где угодно для генерации энергии
- Двойно магичное ядро свинца-208 удивляет неожиданными свойствами формы
Последние комментарии
Рассылка топовых новостей
Читательский топ
- Древнее дерево рассказало о перевороте магнитного поля Земли
- Учёные обнаружили роль митохондрий в формировании памяти
- Индустриализированные общества спят больше
- Нейронный путь у мышей проливает свет на то, как мозг регулирует обученные иммунные реакции
- Ваш мозг может содержать пластик
- Таинственная пирамида Амазонии: священная гора Эль Коно может скрывать древние тайны
- Использование ацетаминофена (парацетамола) матерью может изменить экспрессию генов в плаценте, повышая риск СДВГ у детей
Комментариев нет. Будьте первым!