ИИ будет расистом и сексистом


1 000
Когда-нибудь
прогноз сбудется
Эксперимент компании Microsoft с ее ИИ-алгоритмом Tay (Тэй), который в течение 24 часов после начала работы с пользователями Твиттера оказался рьяным расистом и сексистом
57%
43%
(+1)
(+3)

Сводная информация по прогнозу Редактировать сводную информацию

11 октября 2018 - Компания Amazon отказалась от использования нейросети для поиска сотрудников, "уличив" систему в дискриминации женщин, сообщает Reuters. Искусственный интеллект должен был проанализировать резюме нанятых за минувшие 10 лет сотрудников и на основании полученных данных выбирать лучших кандидатов на должности. Однако специалисты заметили, что нейросеть отдавала преимущество претендентам-мужчинам. В компании предположили, что система самостоятельно сделала вывод о "предпочтительности" сотрудников-мужчин, поскольку среди проанализированных ею ранее резюме женщин было меньше. Инженеры устранили неполадку, однако руководство Amazon приняло решение отказаться от программы, которая могла найти и другие способы дискриминации кандидатов.     https://ria.ru/world/20181011/1530436957.html

12 сентября 2018 - Переводя с языков, в которых нет грамматической категории рода, переводчик Google оказался подвержен гендерным стереотипам. Пытаясь перевести местоимения третьего лица единственного числа, он делает выбор в зависимости от того, наименование какой профессии за этим следует. Как выяснила группа исследователей из Бразилии, представители технических профессий «с точки зрения» переводчика с большей вероятностью будут мужчинами, в то время как некоторые другие сферы «воспринимаются» им как женские. Например, при переводе венгерского на английский не имеющие рода в оригинале предложения будут переведены по-разному: «он — учёный», «он — инженер» или «он — руководитель компании», но «она — медсестра» (в венгерском нет отдельных слов для обозначения медсестры и медбрата), «она — повар» и «она — организатор свадеб». При этом, как отмечают специалисты, «пристрастие», демонстрируемое автоматическим переводчиком, далеко не всегда отражает реальное преобладание представителей того или иного пола в профессии — во всяком случае, официальные статистические данные, собранные в США, этого не подтверждают. Бразильские учёные, проводившие новое исследование, предлагают внести в работу переводчика коррективы, которые позволили бы свести к минимуму случаи «сексизма» — например, всегда выбирать род местоимений случайным образом, если на языке оригинала оно является безродовым.   https://www.mk.ru/science/2018/09/11/perevodchik-google-ulichili-v-seksizme.html

21 апреля 2017 - Создаваемые сегодня ИИ-системы могут стать жертвами человеческих предрассудков и в частности стереотипного мышления. Ответить на соответствующий вопрос попытались специалисты из Принстонского университета. Они разработали алгоритм, способный предсказывать проявление социальных стереотипов на основе интенсивного анализа того, как люди общаются между собой в Интернете. Этот же алгоритм позволит в дальнейшем избавлять ИИ от различного рода проявления сексистских и расистских наклонностей.

12 сентября 2018
User Image4teller(85)%
Переводя с языков, в которых нет грамматической категории рода, переводчик Google оказался, в некотором роде, подвержен гендерным стереотипам. Пытаясь перевести местоимения третьего лица единственного числа, он делает выбор в зависимости от того, наименование какой профессии за этим следует. Как выяснила группа исследователей из Бразилии, представители технических профессий «с точки зрения» переводчика с большей вероятностью будут мужчинами, в то время как некоторые другие сферы «воспринимаются» им как женские. Например, при переводе венгерского на английский не имеющие рода в оригинале предложения будут переведены по-разному: «он — учёный», «он — инженер» или «он — руководитель компании», но «она — медсестра» (в венгерском нет отдельных слов для обозначения медсестры и медбрата), «она — повар» и «она — организатор свадеб». При этом, как отмечают специалисты, «пристрастие», демонстрируемое автоматическим переводчиком, далеко не всегда отражает реальное преобладание представителей того или иного пола в профессии — во всяком случае, официальные статистические данные, собранные в США, этого не подтверждают. По словам специалистов, в некотором роде причиной «сексизма» алгоритма действительно могут служить гендерные стереотипы, однако косвенно и явно не по вине разработчиков: поскольку алгоритм построен по принципу нейросети, он «обучается» на основании уже существующих текстов, и если то или иное сочетание местоимения и существительного встречается чаще, это может отразиться на его работе. Тем не менее, бразильские учёные, проводившие новое исследование, предлагают внести в работу переводчика коррективы, которые позволили бы свести к минимуму случаи «сексизма» — например, всегда выбирать род местоимений случайным образом, если на языке оригинала оно является безродовым.
Существующие похожие прогнозы
Когда-нибудь
прогноз сбудется
Техника и наука
Эксперты из компании Alibaba Security продемонстрировали технологию воздействия звуком на ключевые элементы дронов
36%
64%
(+1)
(+2)
Примерно
28 мая 2022
прогноз сбудется
Техника и наука
Лазерное устройство "видит" турбулентность на расстоянии до 18 км, после чего у экипажа есть приблизительно 70 секунд, чтобы рассадить пассажиров и прекратить обслуживание
41%
59%
(+2)
(+4)
Примерно
20 октября 2027
прогноз сбудется
Техника и наука
Боссы британской марки заверили, что производитель не станет выпускать гибридные версии своих автомобилей, а сразу сконцентрируется на полностью электрических установках
51%
49%
(+5)
(+4)
Примерно
10 декабря 2027
прогноз сбудется
Техника и наука
Искусственное мясо предлагает вариант более безопасного, здорового и безубойного мяса, которое на 100% идентично обычному, привычному для нас...
56%
44%
(+7)
(+2)
Не позднее
31 декабря 2018
прогноз сбудется
Техника и наука
Boeing, активно занимающаяся сейчас сотрудничеством с космическими агентствами, недавно представила легкий и высокотехнологичный скафандр следующего поколения
65%
35%
(+4)
(+2)
Примерно
31 декабря 2020
прогноз сбудется
Техника и наука
Поставщик объективов камер для Apple, разрабатывает специальное чёрное покрытие для линз фронтальных камер, которое сделает их незаметными
46%
54%
(+4)
(+3)
Примерно
30 июня 2030
прогноз сбудется
Техника и наука
Страна примет участие в разработке оборудования для многонационального пилотируемого лунного зонда, что и предоставит Японии место в экспедиции.
62%
38%
(+3)
(+1)
Когда-нибудь
прогноз сбудется
Техника и наука
Патентная заявка, поданная Tesla, описывает портативную станцию, оборудованную на дороге или в трейлере, где водитель сможет заменить свой аккумулятор вместо его зарядки
51%
49%
(+3)
(+1)
Примерно
31 декабря 2030
прогноз сбудется
Техника и наука
Маск не исключил, что автомобили Tesla смогут сами приезжать к покупателю уже через год По словам главы Tesla, "дальше все зависит от регулирующих органов"
71%
29%
(+4)
(+5)
Примерно
26 апреля 2023
прогноз сбудется
Техника и наука
ФАС предлагает закрепить в законодательстве требование о наличии в смартфонах предустановленных отечественных сервисных приложений, таких как браузер, почтовый клиент и т.п.
57%
43%
(+2)
(+1)

Политика:    2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Технологии:    2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Экономика:      2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Общество:      2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

Медицина:        2016    2017    2018    2019    2020    2021    2022    2023    2024    2025    2026    2027    2028    2029    2030-е    2040-е    2050-е    2060-е    Избранное 

 

С помощью поиска можно найти прогнозы по любым темам