ИИ будет расистом и сексистом


1 000
Когда-нибудь
прогноз сбудется
Эксперимент компании Microsoft с ее ИИ-алгоритмом Tay (Тэй), который в течение 24 часов после начала работы с пользователями Твиттера оказался рьяным расистом и сексистом
+ 1 обоснований
(+2)
(+4)

Сводная информация по прогнозу Редактировать сводную информацию

11 октября 2018 - Компания Amazon отказалась от использования нейросети для поиска сотрудников, "уличив" систему в дискриминации женщин, сообщает Reuters. Искусственный интеллект должен был проанализировать резюме нанятых за минувшие 10 лет сотрудников и на основании полученных данных выбирать лучших кандидатов на должности. Однако специалисты заметили, что нейросеть отдавала преимущество претендентам-мужчинам. В компании предположили, что система самостоятельно сделала вывод о "предпочтительности" сотрудников-мужчин, поскольку среди проанализированных ею ранее резюме женщин было меньше. Инженеры устранили неполадку, однако руководство Amazon приняло решение отказаться от программы, которая могла найти и другие способы дискриминации кандидатов.     https://ria.ru/world/20181011/1530436957.html

12 сентября 2018 - Переводя с языков, в которых нет грамматической категории рода, переводчик Google оказался подвержен гендерным стереотипам. Пытаясь перевести местоимения третьего лица единственного числа, он делает выбор в зависимости от того, наименование какой профессии за этим следует. Как выяснила группа исследователей из Бразилии, представители технических профессий «с точки зрения» переводчика с большей вероятностью будут мужчинами, в то время как некоторые другие сферы «воспринимаются» им как женские. Например, при переводе венгерского на английский не имеющие рода в оригинале предложения будут переведены по-разному: «он — учёный», «он — инженер» или «он — руководитель компании», но «она — медсестра» (в венгерском нет отдельных слов для обозначения медсестры и медбрата), «она — повар» и «она — организатор свадеб». При этом, как отмечают специалисты, «пристрастие», демонстрируемое автоматическим переводчиком, далеко не всегда отражает реальное преобладание представителей того или иного пола в профессии — во всяком случае, официальные статистические данные, собранные в США, этого не подтверждают. Бразильские учёные, проводившие новое исследование, предлагают внести в работу переводчика коррективы, которые позволили бы свести к минимуму случаи «сексизма» — например, всегда выбирать род местоимений случайным образом, если на языке оригинала оно является безродовым.   https://www.mk.ru/science/2018/09/11/perevodchik-google-ulichili-v-seksizme.html

21 апреля 2017 - Создаваемые сегодня ИИ-системы могут стать жертвами человеческих предрассудков и в частности стереотипного мышления. Ответить на соответствующий вопрос попытались специалисты из Принстонского университета. Они разработали алгоритм, способный предсказывать проявление социальных стереотипов на основе интенсивного анализа того, как люди общаются между собой в Интернете. Этот же алгоритм позволит в дальнейшем избавлять ИИ от различного рода проявления сексистских и расистских наклонностей.

12 сентября 2018
User Image4teller(85)%
Переводя с языков, в которых нет грамматической категории рода, переводчик Google оказался, в некотором роде, подвержен гендерным стереотипам. Пытаясь перевести местоимения третьего лица единственного числа, он делает выбор в зависимости от того, наименование какой профессии за этим следует. Как выяснила группа исследователей из Бразилии, представители технических профессий «с точки зрения» переводчика с большей вероятностью будут мужчинами, в то время как некоторые другие сферы «воспринимаются» им как женские. Например, при переводе венгерского на английский не имеющие рода в оригинале предложения будут переведены по-разному: «он — учёный», «он — инженер» или «он — руководитель компании», но «она — медсестра» (в венгерском нет отдельных слов для обозначения медсестры и медбрата), «она — повар» и «она — организатор свадеб». При этом, как отмечают специалисты, «пристрастие», демонстрируемое автоматическим переводчиком, далеко не всегда отражает реальное преобладание представителей того или иного пола в профессии — во всяком случае, официальные статистические данные, собранные в США, этого не подтверждают. По словам специалистов, в некотором роде причиной «сексизма» алгоритма действительно могут служить гендерные стереотипы, однако косвенно и явно не по вине разработчиков: поскольку алгоритм построен по принципу нейросети, он «обучается» на основании уже существующих текстов, и если то или иное сочетание местоимения и существительного встречается чаще, это может отразиться на его работе. Тем не менее, бразильские учёные, проводившие новое исследование, предлагают внести в работу переводчика коррективы, которые позволили бы свести к минимуму случаи «сексизма» — например, всегда выбирать род местоимений случайным образом, если на языке оригинала оно является безродовым.
Существующие похожие прогнозы
Примерно
25 декабря 2022
прогноз сбудется
Техника и наука
Первые лётные испытания китайского самолёта-амфибии проведут летом текущего года, а в 2021 выпустят в продажу
(+4)
(+2)
Примерно
3 декабря 2021
прогноз сбудется
Техника и наука
Потоковая передача видео на мобильных устройствах — объемный рынок, и он продолжает быстро расти. В 4 квартале 2015 г. 46% мировых просмотров видео приходилось на смартфоны и планшеты
(+4)
(+2)
Примерно
29 декабря 2019
прогноз сбудется
Техника и наука
Недавно работники компании Toyota представили крайне продвинутую версию самоуправляемого авто с 2 водительскими местами
(+1)
(+1)
Когда-нибудь
прогноз сбудется
Техника и наука
MADE Collective планируют построить вместо стены линию HyperLoop
Примерно
27 декабря 2020
прогноз сбудется
Техника и наука
Flux Auto решила создать собственный автопилот, которым можно оборудовать практически любой грузовик
(+4)
(+2)
Примерно
31 декабря 2019
прогноз сбудется
Техника и наука
По информации азиатских источников, электронный гигант поручил компании JSCK разработать 3D-сенсор для основной камеры.
Примерно
30 апреля 2020
прогноз сбудется
Техника и наука
Разработчики из компании Tegway создали прототип игрового контроллера для VR, который позволит игроку ощутить ладонями изменение температуры и боль
Примерно
31 декабря 2019
прогноз сбудется
Техника и наука
Самолет высотой 15 метров состоит из двух фюзеляжей, его масса с полной загрузкой — 590 тонн. После ввода в строй он станет платформой для запуска небольших космических ракет
(+2)
(+4)
Примерно
7 августа 2030
прогноз сбудется
Техника и наука
Сейчас китайские ученые сейчас как никогда близки к нахождению оптимального решения для постройки самого длинного подводного туннеля в мире
Не позднее
31 декабря 2025
прогноз сбудется
Техника и наука
Такой прогноз дает аналитическая компания IHS Markit. Ее эксперты считают, что продажи автономного автотранспорта превысят 1 млн в год с момента начала первых продаж в 2019 году

Политика:    2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Технологии:    2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Экономика:      2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Общество:      2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Медицина:        2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

 

С помощью поиска можно найти прогнозы по любым темам