ИИ будет расистом и сексистом

Когда-нибудь
прогноз сбудется
Техника и наука
Эксперимент компании Microsoft с ее ИИ-алгоритмом Tay (Тэй), который в течение 24 часов после начала работы с пользователями Твиттера оказался рьяным расистом и сексистом
62%
38%
12 сентября 2018 г.
Автор:
User image4teller
Comment0
Count6

Переводя с языков, в которых нет грамматической категории рода, переводчик Google оказался, в некотором роде, подвержен гендерным стереотипам. Пытаясь перевести местоимения третьего лица единственного числа, он делает выбор в зависимости от того, наименование какой профессии за этим следует.

Как выяснила группа исследователей из Бразилии, представители технических профессий «с точки зрения» переводчика с большей вероятностью будут мужчинами, в то время как некоторые другие сферы «воспринимаются» им как женские. Например, при переводе венгерского на английский не имеющие рода в оригинале предложения будут переведены по-разному: «он — учёный», «он — инженер» или «он — руководитель компании», но «она — медсестра» (в венгерском нет отдельных слов для обозначения медсестры и медбрата), «она — повар» и «она — организатор свадеб».

При этом, как отмечают специалисты, «пристрастие», демонстрируемое автоматическим переводчиком, далеко не всегда отражает реальное преобладание представителей того или иного пола в профессии — во всяком случае, официальные статистические данные, собранные в США, этого не подтверждают.

По словам специалистов, в некотором роде причиной «сексизма» алгоритма действительно могут служить гендерные стереотипы, однако косвенно и явно не по вине разработчиков: поскольку алгоритм построен по принципу нейросети, он «обучается» на основании уже существующих текстов, и если то или иное сочетание местоимения и существительного встречается чаще, это может отразиться на его работе. Тем не менее, бразильские учёные, проводившие новое исследование, предлагают внести в работу переводчика коррективы, которые позволили бы свести к минимуму случаи «сексизма» — например, всегда выбирать род местоимений случайным образом, если на языке оригинала оно является безродовым.

Поделиться в социальных сетях:
Похожие прогнозы
Когда-нибудь
прогноз сбудется
Техника и наука
Microsoft анонсировала свой собственный умный термостат GLAS под управлением виртуального ассистента Cortana
43%
57%
(+1)
Примерно
11 ноября 2020
прогноз сбудется
Техника и наука
Инсайдеры сообщили: представленное на фотографиях устройство не является прототипом для внутреннего пользования, это действительно будущая гарнитура виртуальной реальности Valve VR
40%
60%
(+1)
(+1)
Примерно
15 ноября 2040
прогноз сбудется
Техника и наука
Для имитации мозга нужно 1000^7 флопс. Сейчас самый быстрый компьютер 1000^5,8 флопс. По закону Мура нужно 18 лет для такого достижения мозга.
60%
40%
Когда-нибудь
прогноз сбудется
Техника и наука
Группе специалистов из университета Северной Каролины удалось создать новую технологию управления движениями миниатюрных мягких роботов
62%
38%
Когда-нибудь
прогноз сбудется
Техника и наука
Исследователи из университетов в Сингапуре и Германии обнаружили способ, позволяющий превратить чипы ОЗУ в мощное вычислительное устройство.
70%
30%
(+1)
Примерно
4 января 2020
прогноз сбудется
Техника и наука
Hewlett Packard удалось создать оптический процессор, на чипе которого присутствует 1052 оптических компонента, способные быстро и эффективно выполнять достаточно сложные вычисления
65%
35%
(+1)
Примерно
31 декабря 2019
прогноз сбудется
Техника и наука
Предсерийный образец «шлема», который позволяет "законнектить" мозг его пользователя с домашней электроникой, экзоскелетом или инвалидной коляской, показал устойчивую работу
42%
58%
Примерно
12 февраля 2041
прогноз сбудется
Техника и наука
Компания Sumitomo Forestry хочет построить в Токио 70-этажный деревянный небоскреб. Здание высотой 350 метров появится в деловом районе Маруноути в 2041 году
52%
48%
(+3)
Не позднее
31 января 2020
прогноз сбудется
Техника и наука
У Microsoft появилось новое подразделение из 5000 человек, которое займется разработками в области искусственного интеллекта
67%
33%
Примерно
18 октября 2044
прогноз сбудется
Техника и наука
В Космическом центре Кеннеди создали концепт оранжереи, подходящей для посадки различных растений на космических станциях
64%
36%

Политика:    2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Технологии:    2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Экономика:      2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Общество:      2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Медицина:        2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

 

С помощью поиска можно найти прогнозы по любым темам