1 000
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука

Будет разработан искусственный интеллект, способный объяснять свои решения

Уровень доверия к ИИ можно будет повысить, если он сможет объяснять, почему принимает то или иное решение. Проект такой нейросети назвали XAI (Explainable Artificial Intelligence)

Сводная информация по прогнозу редактировать информацию

Будет ли разработан искусственный интеллект, способный объяснять свои решения, и когда? Дайджест новостей, аргументы в пользу и против прогноза

27 ноября 2018 - По оценке главного технического директора компании Thales Марко Эрмана, первые результаты по созданию интеллектуальных систем, способных объяснять свои решения, могут появиться в 2021 году. В конце августа 2018 года Агентство перспективных оборонных разработок (DARPA) министерства обороны США заказало американской компании Raytheon разработку нейросети, способной объяснить, почему она в ходе своей работы приняла то или иное решение. Наработки по проекту будут использованы в рамках более масштабного проекта по созданию боевых подразделений «человек — робот». В DARPA полагают, что для эффективного взаимодействия солдат и роботов в бою важно, чтобы люди доверяли своим электронным напарникам. Уровень доверия можно будет повысить, если роботы смогут объяснять людям, почему они принимают то или иное решение. Проект нейросети, способной объясниться с человеком, получил обозначение XAI (Explainable Artificial Intelligence, объяснимый искусственный интеллект). Он предполагает создание нейросети, не уступающей в быстродействии обычным нейронным сетям, но способной показать всю цепочку анализа, на основании которого она приняла конкретное решение. 

Проблема доверия к решениям искусственного интеллекта. Невозможность целенаправленного исправления ошибок

27 ноября 2018 - Искусственный интеллект в ближайшем будущем не может быть встроен в бортовое оборудование пассажирских самолетов. К такому выводу, как пишет Aviation Week, пришли специалисты Французского аэрокосмического исследовательского центра (ONERA) и компании Thales. По мнению специалистов, современные системы с элементами искусственного интеллекта учатся на больших объемах данных, и по этой причине при возникновении каких-либо ошибок в их работе найти причину сбоя обычно невозможно. Кроме того, умные системы не имеют функции объяснения того или иного принятого ими решения.​ По словам Виржини Вьель, директора по информационным системам ONERA, до тех пор, пока у разработчиков не будет четкого понимания, как именно системы искусственного интеллекта принимают решения и почему конкретно эти решения ими принимаются, ни о какой сертификации для их использования на пассажирских самолетах речи идти не может. По оценке ONERA, положительных подвижек в этой области не будет по крайней мере ближайшие десять лет.

24 июля 2018 - Сейчас нейронные сети способны найти 3-4 случая мошеннических банковских операций из 10 тысяч операций. Однако именно нейронные сети виновны в том, что вам не с того не с сего блокируют обычный перевод. Даже разработчики не могут понять, почему машина приняла такое решение, а не другое. Ведущий попросил зал поднять руку тем, кто столкнулся с подобной проблемой. И очень многие руку подняли.  https://www.finversia.ru/news/events/iskusstvennyi-intellekt-kak-godoval...

16 января 2018 - Попытка IBM представить суперкомпьютерную программу врачам-онкологам (Watson for Oncology) стала провальной. ИИ обещал предоставить высококачественные рекомендации по лечению 12 видов рака, на долю которых приходится 80% случаев в мире. На сегодняшний день более 14 000 пациентов получили рекомендации на основании его расчетов. Но когда врачи впервые столкнулись с Watson, они оказались в довольно сложной ситуации. С одной стороны, если Watson давал указания относительно лечения, совпадающие с их собственными мнениями, медики не видели большой ценности в рекомендациях ИИ. Суперкомпьютер просто рассказывал им то, что они уже знали, и эти рекомендации не меняли фактического лечения. Это, возможно, давало врачам спокойствие и уверенность в собственных решениях. Но IBM еще не доказала, что Watson действительно увеличивает процент выживаемости с раком. С другой стороны, если Watson давал рекомендации, которые расходились с мнением экспертов, врачи заключали, что Watson некомпетентен. И машина не могла объяснить, почему ее лечение должно сработать, потому что ее алгоритмы машинного обучения были слишком сложными, чтобы их могли понять люди. Соответственно, это приводило к еще большему недоверию, и многие врачи просто игнорировали рекомендации ИИ, полагаясь на собственный опыт. В результате главный медицинский партнер IBM Watson — MD Anderson Cancer Center — недавно сообщил об отказе от программы. Датская больница также сообщила, что отказывается от программы после того, как обнаружила, что врачи-онкологи не согласны с Watson в двух случаях из трех.

08 декабря 2017 - Ученые и программисты перестали понимать, как именно принимает решения искусственный интеллект. Об этой проблеме заявили сразу несколько специалистов на главной ИИ-конференции — Neural Information Processing Systems, — прошедшей в Лонг-Бич (Калифорния), пишет Quartz. Эксперты, с которыми пообщались в Quartz, говорят, что нужно действовать, пока система не стала слишком сложной. «Мы не хотим принимать за должное решения ИИ, без понимания их логики, — говорит Джейсон Йосински из Uber. — Чтобы общество приняло модели машинного обучения, мы должны знать, как ИИ принимает решения». Проблема, которую многие эксперты называют «черной коробочкой», действительно серьезная. Предыдущий опыт показал, что ИИ имеет склонность принимать предвзятые решения и проводить аналогии там, где их не следовало бы проводить. 

Повторные источники:

27 ноября 2018 - https://nplus1.ru/news/2018/11/27/noaionboard

Существующие похожие прогнозы
Примерно
31 декабря 2024
прогноз сбудется
Техника и наука
Компания Stratolaunch уже довольно давно ведет разработку самолета Model 351 — самого длиннокрылого самолета в мире.
Примерно
30 июня 2023
прогноз сбудется
Техника и наука
Американский автопризводитель General Motors вынашивает планы по возрождению легендарного бренда Hummer и выпуску нового семейства электровнедорожников и пикапов.
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука
Стоит отметить, что сейчас у Samsung максимальное разрешение датчика изображения составляет 108 Мп.
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука
Google представил новый бесплатный инструмент для малого бизнеса – Local Opportunity Finder.
Когда-нибудь
прогноз сбудется
Техника и наука
Инженеры из Walt Disney Imagineering создали робота-каскадера, способного выполнять сложные акробатические прыжки с троса
Примерно
6 марта 2030
прогноз сбудется
Техника и наука
По словам главного "стратега" Майкла Йоста, переход Volkswagen к электрификации продолжает приносить большие возможности.
Примерно
24 февраля 2049
прогноз сбудется
Техника и наука
18 декабря 2017 Наши домашние горшечные растения в ближайшем будущем могут превратиться в настольные лампы, а придорожные кусты и деревья смогут освещать улицы
Примерно
18 сентября 2025
прогноз сбудется
Техника и наука
Китай и Россия работают над совместным проектом запуска на земную орбиту группировки спутников с целью раздачи высокоскоростного спутникового интернета уже в 2020 году.
Примерно
31 декабря 2024
прогноз сбудется
Техника и наука
При этом принятие на вооружение таких ракет может не соответствовать "мирной" конституции страны
Примерно
31 декабря 2025
прогноз сбудется
Техника и наука
Facebook объявил о партнерстве с Intel и начал разработку специализированного чипа для искусственного интеллекта. Компании придется конкурировать с Google и Amazon.

Смотрите индивидуальную Ленту новостей, настроенную по вашим интересам

Настройте вашу ленту: подпишитесь на прогнозы и мнения авторов сайта, своих друзей, экспертов, СМИ или блогеров

Поиск будущих событий    Тенденции    Календарь    Завершенные прогнозы