1 000
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука

Будет разработан искусственный интеллект, способный объяснять свои решения

Уровень доверия к ИИ можно будет повысить, если он сможет объяснять, почему принимает то или иное решение. Проект такой нейросети назвали XAI (Explainable Artificial Intelligence)

Сводная информация по прогнозу редактировать информацию

Будет ли разработан искусственный интеллект, способный объяснять свои решения, и когда? Дайджест новостей, аргументы в пользу и против прогноза

27 ноября 2018 - По оценке главного технического директора компании Thales Марко Эрмана, первые результаты по созданию интеллектуальных систем, способных объяснять свои решения, могут появиться в 2021 году. В конце августа 2018 года Агентство перспективных оборонных разработок (DARPA) министерства обороны США заказало американской компании Raytheon разработку нейросети, способной объяснить, почему она в ходе своей работы приняла то или иное решение. Наработки по проекту будут использованы в рамках более масштабного проекта по созданию боевых подразделений «человек — робот». В DARPA полагают, что для эффективного взаимодействия солдат и роботов в бою важно, чтобы люди доверяли своим электронным напарникам. Уровень доверия можно будет повысить, если роботы смогут объяснять людям, почему они принимают то или иное решение. Проект нейросети, способной объясниться с человеком, получил обозначение XAI (Explainable Artificial Intelligence, объяснимый искусственный интеллект). Он предполагает создание нейросети, не уступающей в быстродействии обычным нейронным сетям, но способной показать всю цепочку анализа, на основании которого она приняла конкретное решение. 

Проблема доверия к решениям искусственного интеллекта. Невозможность целенаправленного исправления ошибок

27 ноября 2018 - Искусственный интеллект в ближайшем будущем не может быть встроен в бортовое оборудование пассажирских самолетов. К такому выводу, как пишет Aviation Week, пришли специалисты Французского аэрокосмического исследовательского центра (ONERA) и компании Thales. По мнению специалистов, современные системы с элементами искусственного интеллекта учатся на больших объемах данных, и по этой причине при возникновении каких-либо ошибок в их работе найти причину сбоя обычно невозможно. Кроме того, умные системы не имеют функции объяснения того или иного принятого ими решения.​ По словам Виржини Вьель, директора по информационным системам ONERA, до тех пор, пока у разработчиков не будет четкого понимания, как именно системы искусственного интеллекта принимают решения и почему конкретно эти решения ими принимаются, ни о какой сертификации для их использования на пассажирских самолетах речи идти не может. По оценке ONERA, положительных подвижек в этой области не будет по крайней мере ближайшие десять лет.

24 июля 2018 - Сейчас нейронные сети способны найти 3-4 случая мошеннических банковских операций из 10 тысяч операций. Однако именно нейронные сети виновны в том, что вам не с того не с сего блокируют обычный перевод. Даже разработчики не могут понять, почему машина приняла такое решение, а не другое. Ведущий попросил зал поднять руку тем, кто столкнулся с подобной проблемой. И очень многие руку подняли.  https://www.finversia.ru/news/events/iskusstvennyi-intellekt-kak-godoval...

16 января 2018 - Попытка IBM представить суперкомпьютерную программу врачам-онкологам (Watson for Oncology) стала провальной. ИИ обещал предоставить высококачественные рекомендации по лечению 12 видов рака, на долю которых приходится 80% случаев в мире. На сегодняшний день более 14 000 пациентов получили рекомендации на основании его расчетов. Но когда врачи впервые столкнулись с Watson, они оказались в довольно сложной ситуации. С одной стороны, если Watson давал указания относительно лечения, совпадающие с их собственными мнениями, медики не видели большой ценности в рекомендациях ИИ. Суперкомпьютер просто рассказывал им то, что они уже знали, и эти рекомендации не меняли фактического лечения. Это, возможно, давало врачам спокойствие и уверенность в собственных решениях. Но IBM еще не доказала, что Watson действительно увеличивает процент выживаемости с раком. С другой стороны, если Watson давал рекомендации, которые расходились с мнением экспертов, врачи заключали, что Watson некомпетентен. И машина не могла объяснить, почему ее лечение должно сработать, потому что ее алгоритмы машинного обучения были слишком сложными, чтобы их могли понять люди. Соответственно, это приводило к еще большему недоверию, и многие врачи просто игнорировали рекомендации ИИ, полагаясь на собственный опыт. В результате главный медицинский партнер IBM Watson — MD Anderson Cancer Center — недавно сообщил об отказе от программы. Датская больница также сообщила, что отказывается от программы после того, как обнаружила, что врачи-онкологи не согласны с Watson в двух случаях из трех.

08 декабря 2017 - Ученые и программисты перестали понимать, как именно принимает решения искусственный интеллект. Об этой проблеме заявили сразу несколько специалистов на главной ИИ-конференции — Neural Information Processing Systems, — прошедшей в Лонг-Бич (Калифорния), пишет Quartz. Эксперты, с которыми пообщались в Quartz, говорят, что нужно действовать, пока система не стала слишком сложной. «Мы не хотим принимать за должное решения ИИ, без понимания их логики, — говорит Джейсон Йосински из Uber. — Чтобы общество приняло модели машинного обучения, мы должны знать, как ИИ принимает решения». Проблема, которую многие эксперты называют «черной коробочкой», действительно серьезная. Предыдущий опыт показал, что ИИ имеет склонность принимать предвзятые решения и проводить аналогии там, где их не следовало бы проводить. 

Повторные источники:

27 ноября 2018 - https://nplus1.ru/news/2018/11/27/noaionboard

Существующие похожие прогнозы
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука
Может быть, до конца этого года
Не позднее
1 декабря 2030
прогноз сбудется
Техника и наука
Впервые в истории ученые собираются добраться до самых недр нашей планеты, пробурив земную кору и достигнув мантии
Примерно
10 января 2039
прогноз сбудется
Техника и наука
Квантовый компьютер от IMB c 20-кубитной системой будет доступен для облачных вычислений. Если прибавить связь 5G - сложные компьютеры станут не нужны
Примерно
30 июня 2028
прогноз сбудется
Техника и наука
Графеновые батареи могут заряжаются во много раз быстрее существующих литий-ионных
Примерно
30 сентября 2025
прогноз сбудется
Техника и наука
Источники издания отметили, что ожидаемое производство нового электрического седана может составить 300 000 автомобилей в год.
Примерно
31 декабря 2024
прогноз сбудется
Техника и наука
Электрокар построят на базе хорватских спортивных авто Rimac
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука
«Роскосмос» планирует в 2021 году потратить более восьми миллиардов рублей на производство нового космического корабля «Орёл».
Примерно
31 декабря 2022
прогноз сбудется
Техника и наука
Слухи о том, что Google заинтересовалась Fitbit, появились на этой неделе.
Примерно
19 мая 2022
прогноз сбудется
Техника и наука
Делегация Российской академии наук и представители NASA в рамках встречи обсудили вопросы исследования Луны и Венеры.
Примерно
20 августа 2022
прогноз сбудется
Техника и наука
Машина будет выполнена на базе Ка-52 «Аллигатор». В рамках первой партии ВВС могут получить более 100 новых вертолетов.

Смотрите индивидуальную Ленту новостей, настроенную по вашим интересам

Настройте вашу ленту: подпишитесь на прогнозы и мнения авторов сайта, своих друзей, экспертов, СМИ или блогеров

Поиск будущих событий    Тенденции    Календарь    Завершенные прогнозы