1 000
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука

Будет разработан искусственный интеллект, способный объяснять свои решения

Уровень доверия к ИИ можно будет повысить, если он сможет объяснять, почему принимает то или иное решение. Проект такой нейросети назвали XAI (Explainable Artificial Intelligence)

Сводная информация по прогнозу редактировать информацию

Будет ли разработан искусственный интеллект, способный объяснять свои решения, и когда? Дайджест новостей, аргументы в пользу и против прогноза

27 ноября 2018 - По оценке главного технического директора компании Thales Марко Эрмана, первые результаты по созданию интеллектуальных систем, способных объяснять свои решения, могут появиться в 2021 году. В конце августа 2018 года Агентство перспективных оборонных разработок (DARPA) министерства обороны США заказало американской компании Raytheon разработку нейросети, способной объяснить, почему она в ходе своей работы приняла то или иное решение. Наработки по проекту будут использованы в рамках более масштабного проекта по созданию боевых подразделений «человек — робот». В DARPA полагают, что для эффективного взаимодействия солдат и роботов в бою важно, чтобы люди доверяли своим электронным напарникам. Уровень доверия можно будет повысить, если роботы смогут объяснять людям, почему они принимают то или иное решение. Проект нейросети, способной объясниться с человеком, получил обозначение XAI (Explainable Artificial Intelligence, объяснимый искусственный интеллект). Он предполагает создание нейросети, не уступающей в быстродействии обычным нейронным сетям, но способной показать всю цепочку анализа, на основании которого она приняла конкретное решение. 

Проблема доверия к решениям искусственного интеллекта. Невозможность целенаправленного исправления ошибок

27 ноября 2018 - Искусственный интеллект в ближайшем будущем не может быть встроен в бортовое оборудование пассажирских самолетов. К такому выводу, как пишет Aviation Week, пришли специалисты Французского аэрокосмического исследовательского центра (ONERA) и компании Thales. По мнению специалистов, современные системы с элементами искусственного интеллекта учатся на больших объемах данных, и по этой причине при возникновении каких-либо ошибок в их работе найти причину сбоя обычно невозможно. Кроме того, умные системы не имеют функции объяснения того или иного принятого ими решения.​ По словам Виржини Вьель, директора по информационным системам ONERA, до тех пор, пока у разработчиков не будет четкого понимания, как именно системы искусственного интеллекта принимают решения и почему конкретно эти решения ими принимаются, ни о какой сертификации для их использования на пассажирских самолетах речи идти не может. По оценке ONERA, положительных подвижек в этой области не будет по крайней мере ближайшие десять лет.

24 июля 2018 - Сейчас нейронные сети способны найти 3-4 случая мошеннических банковских операций из 10 тысяч операций. Однако именно нейронные сети виновны в том, что вам не с того не с сего блокируют обычный перевод. Даже разработчики не могут понять, почему машина приняла такое решение, а не другое. Ведущий попросил зал поднять руку тем, кто столкнулся с подобной проблемой. И очень многие руку подняли.  https://www.finversia.ru/news/events/iskusstvennyi-intellekt-kak-godoval...

16 января 2018 - Попытка IBM представить суперкомпьютерную программу врачам-онкологам (Watson for Oncology) стала провальной. ИИ обещал предоставить высококачественные рекомендации по лечению 12 видов рака, на долю которых приходится 80% случаев в мире. На сегодняшний день более 14 000 пациентов получили рекомендации на основании его расчетов. Но когда врачи впервые столкнулись с Watson, они оказались в довольно сложной ситуации. С одной стороны, если Watson давал указания относительно лечения, совпадающие с их собственными мнениями, медики не видели большой ценности в рекомендациях ИИ. Суперкомпьютер просто рассказывал им то, что они уже знали, и эти рекомендации не меняли фактического лечения. Это, возможно, давало врачам спокойствие и уверенность в собственных решениях. Но IBM еще не доказала, что Watson действительно увеличивает процент выживаемости с раком. С другой стороны, если Watson давал рекомендации, которые расходились с мнением экспертов, врачи заключали, что Watson некомпетентен. И машина не могла объяснить, почему ее лечение должно сработать, потому что ее алгоритмы машинного обучения были слишком сложными, чтобы их могли понять люди. Соответственно, это приводило к еще большему недоверию, и многие врачи просто игнорировали рекомендации ИИ, полагаясь на собственный опыт. В результате главный медицинский партнер IBM Watson — MD Anderson Cancer Center — недавно сообщил об отказе от программы. Датская больница также сообщила, что отказывается от программы после того, как обнаружила, что врачи-онкологи не согласны с Watson в двух случаях из трех.

08 декабря 2017 - Ученые и программисты перестали понимать, как именно принимает решения искусственный интеллект. Об этой проблеме заявили сразу несколько специалистов на главной ИИ-конференции — Neural Information Processing Systems, — прошедшей в Лонг-Бич (Калифорния), пишет Quartz. Эксперты, с которыми пообщались в Quartz, говорят, что нужно действовать, пока система не стала слишком сложной. «Мы не хотим принимать за должное решения ИИ, без понимания их логики, — говорит Джейсон Йосински из Uber. — Чтобы общество приняло модели машинного обучения, мы должны знать, как ИИ принимает решения». Проблема, которую многие эксперты называют «черной коробочкой», действительно серьезная. Предыдущий опыт показал, что ИИ имеет склонность принимать предвзятые решения и проводить аналогии там, где их не следовало бы проводить. 

Повторные источники:

27 ноября 2018 - https://nplus1.ru/news/2018/11/27/noaionboard

Существующие похожие прогнозы
Примерно
31 декабря 2020
прогноз сбудется
Техника и наука
Но на носителей секретной и особо секретной информации эти послабления распространяться не будут.
Не позднее
20 января 2025
прогноз сбудется
Техника и наука
Рубен Брюэр из некоммерческого научно-исследовательского института SRI International (США) сконструировал робота для дорожной полиции.
Примерно
31 декабря 2022
прогноз сбудется
Техника и наука
Ожидается, что микровэн MINI займет нишу на ступень выше моделей Clubman и Countryman, а по размерам будет напоминать текущий Mercedes-Benz B-Class.
Примерно
2 января 2027
прогноз сбудется
Техника и наука
Microsoft оформляет патент на устройство дополненной реальности, которое поможет в поиске ключей и прочих предметов, разбросанных по дому. Этому поможет искусственный интеллект
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука
Биржа криптовалют Huobi выпустит блокчейн-смартфон Acute Angle в сотрудничестве со стартапом Whole Network.
Когда-нибудь
прогноз сбудется
Техника и наука
Автоконцерн Ford решил избавиться от насущных руля и педалей и даже запатентовал технологию
Примерно
2 мая 2027
прогноз сбудется
Техника и наука
С 29 апреля по 3 мая NASA проведёт конференцию Planetary Defense Conference, на которой учёные будут придумывать план спасения планеты от столкновения с гипотетическим астероидом.
Примерно
31 декабря 2021
прогноз сбудется
Техника и наука
Самый быстрый на данный момент маглев курсирует в Шанхае от аэропорта Пудун до станции метро Лунъян. По ней поезд проезжает 30 километров за 7 минут на скорости в 431 километр в час
Не позднее
30 декабря 2023
прогноз сбудется
Техника и наука
Новая разработка призвана повысить шансы на выживание при приземлении в водоём.
Примерно
31 декабря 2022
прогноз сбудется
Техника и наука
Изобретателям литийионных аккумуляторов только в прошлом году дали Нобелевскую премию, хотя сама технология их изготовления известна давно.

Смотрите индивидуальную Ленту новостей, настроенную по вашим интересам

Настройте вашу ленту: подпишитесь на прогнозы и мнения авторов сайта, своих друзей, экспертов, СМИ или блогеров

Поиск будущих событий    Тенденции    Календарь    Завершенные прогнозы