Искусственный интеллект превращается в расиста и женоненавистника. Как машина унаследовала грехи людей

Анастасия Пашинская
11 августа, 2017 пятница
11:07

Искусственный интеллект из образца непредвзятости превращается в хранилище всех человеческих недостатков

Роботы расисты и женоненавистники

Искусственный интеллект учится расизму и женоненавистничеству, считают ученые. 

Весной 2014 года Бриша Борден не успевала забрать свою крестницу из школы. 18-летняя девушка заметила на улице непристегнутый синий велосипед и серебряный самокат. Борден и её подруга схватили чужие велосипед и самокат и поехали забирать ребенка.

Однако девушки поняли, что слишком велики для детского велосипеда и самоката, так как все это принадлежало 6-летнему ребенку. Борден и ее подруга бросили детские средства передвижения и решили добраться до школы самостоятельно.

Но было слишком поздно - сосед, который был свидетелем кражи, вызвал полицию. Девушки были арестованы и обвинялись в мелкой краже за предметы общей стоимостью в $80.

Аналогичное преступление произошло позже летом. 41-летний Вернон Пратер был арестован за кражу в магазине на сумму $86,35. Это не первое преступление Пратера. Ранее он был осужден за вооруженное ограбление. За это мужчина уже отсидел 5 лет в тюрьме.

Однако, когда дела Борден и Пратера рассматривались в суде, то случилось что-то странное. Во многих тюрьмах и судебных системах Америки внедрили программы искусственного интеллекта для обработки данных — “Compas”. ИИ выдал прогноз, что Борден вероятнее всего совершит еще преступление в будущем. А вот Пратер, по мнению машины, не представлял угрозы обществу в будущем. Дело в том, что 18-летняя девушка Бриша Борден является афроамериканкой, а рецидивист Вернон Пратер — белый мужчина.

Прогноз машины не сбылся. После истории с велосипедами Борден больше не нарушала закон. А Пратер заработал себе новый восьмилетний тюремный срок за проникновение на склад и кражи электроники стоимостью в тысячи долларов.

Аналогичная история произошла с Диланом Фаджетом и Бернардом Паркером. Оба мужчин (в разное время) были арестованы за хранение кокаина и марихуаны. Машина определила для Фаджета низкий риск рецидива, а для Паркера высокий. Паркер является афроамериканцем. Прогноз машины не сбылся и в этот раз: белый Фаджет арестовывался еще три раза с того случая.

null

Журналисты проанализировали дела 7000 задержанных и выявили, что в большинстве случаев для людей с темным цветом кожи машина предсказывает повторный рецидив.

Оценки риска повторного преступления все чаще используются в судебной системе в мировой практике. проблема в том, что подобной оценкой пользуются судьи при вынесения приговора, при решении о досрочном освобождении преступника и при вынесении решения о дополнительной реабилитации преступника.

Compas уже действуют в США: Аризоне, Колорадо, Делавэре, Кентукки, Луизиане, Оклахоме, Вирджинии, Вашингтоне и Висконсине.

Почему так произошло

Система ИИ Compas вводилась для того, чтобы избежать субъективности при вынесении приговора в суде. Система правосудия США уже давно борется с расовой предубежденностью. Именно поэтому было решено обратиться к технологиям.

Согласно данным международного консалтингового института МакКинзи только в прошлом году корпорации Google и Baidu вложили $30 миллиардов в изучение ИИ. Инвесторы рассчитывают, что ИИ возьмет на себя полностью обработку данных, с последующим анализом и прогнозированием. Если раньше была гонка на вооружение, то сегодня это гонка на развитие ИИ. Например, пенсионный фонд Великобритании платит от 100 тысяч фунтов ($130 тысяч) в год специалистам в сфере ИИ. Таким образом они надеются помочь безработным найти работу, и сортировать доходы и налоги. Однако опыт с судебными и полицейскими программами показывает, что ИИ развивается совсем не в том направлении, в котором нужно.

Компания, занимающаяся разработкой Compas, оспаривает выводы, сделанные журналистами, однако отказалась раскрывать принцип обучения машины.

Корпорации Google и Microsoft, также обеспокоились и провели собственные расследования — что пошло не так?

Чем сложнее становятся технологии, тем сложнее понять “как это работает”. ИИ, который используется в судах и полицейских участках изучал архивы и другие данные, которые имеются в базе у организации. Искусственный интеллект не придумал что-то новое, а лишь усугубил хорошо закрепленное старое. Если в США была проблема расизма среди полицейских и судей, то ИИ изучив дела арестов, а также личные дела преступников, социальную принадлежность людей и их доходы, начал вырабатывать такую же модель поведения. Черный — значит опасный.  

Пока корпорации гонятся за расширением возможностей работы ИИ, они совсем не обращают внимание на то, какой информацией “кормит” неокрепший ИИ. По сути специалисты сами дают программе наши предубеждения для изучения. Как итог, обрабатывая большие данные, ИИ становится концентрированным местом для расизма, сексизма и прочих человеческих слабостей.

Языковые предвзятости

Еще одно интересное исследование опубликовали в журнале Science. Оказывается, в нашем языке уже заложены все предпосылки для расизма и сексизма. Благодаря ИИ, такие программы как Google Translate начали лучше распознавать и переводить тексты. Программы улучшаются за счет обработки большого количества текстов. Обрабатывая информацию, ИИ делит слова по контекстным группам. Машина превращает значения слов в цифры (вектор слова).

Например, слова обозначающие цветы находятся ближе к словам удовольствия, в то время как слова для насекомых относятся к “неприятным”. Таким образом выражается общественное мнение относительно цветов и насекомых.  

А вот слова “женщина” ИИ связывает с занятиями искусством, гуманитарными науками и домом. А мужчину связывает ближе с математикой и и инженерными специальностями.

Или программа ассоциировала европейские имена и названия с чем-то хорошим, тогда как афроамериканские имена она разместила в области чего-то неприятного, например насекомых.

Так что если подобная программа будет обрабатывать резюме новых сотрудников для биржи труда, то скорее она будет предлагать работу людям с европейскими именами.

Так было всегда

Мы уже видели, как нейросеть компании Google, которая умеет распознавать изображения определила двоих черных людей как горилл. Или как социальная сеть для поиска работы LinkedIn отдает предпочтение соискателям мужского пола. А стоило боту Microsoft по имени Тай провести сутки в Twitter, как она (бот был женского рода), превратилась в фанатку Гитлера и Трампа, и начала писать ксенофобные “твиты” про мексиканцев и евреев.

null

Твиты бота от Microsoft

Корпорации рискуют автоматизировать те же самые предубеждения и стереотипы, с которыми эти машины должны бороться. Компьютеры не могут стать предвзятыми сами по себе. Для этого у них есть мы.

 
Читайте также:
Олександр Усик та Ентоні Джошуа (ліворуч)
26 сентября, 2021 воскресенье
Промоутер Усика назвал главное условие реванша с Джошуа
24 сентября, 2021 пятница
"Кто-то допустил критическую тактическую и стратегическую ошибку": расследователь Bellingcat Грозев о срыве задержания "вагнеровцев"
Олександр Усик та Ентоні Джошуа
26 сентября, 2021 воскресенье
Джошуа назвал неожиданную причину поражения от Усика
Киев
+18
  • Киев
  • Львов
  • Винница
  • Днепр
  • Донецк
  • Житомир
  • Запорожье
  • Ивано-Франковск
  • Кропивницкий
  • Луганск
  • Луцк
  • Николаев
  • Одесса
  • Полтава
  • Ровно
  • Сумы
  • Симферополь
  • Тернополь
  • Ужгород
  • Харьков
  • Херсон
  • Хмельницкий
  • Черкасси
  • Черновцы
  • Чернигов
  • USD 26.58
    Покупка 26.58
    Продажа 26.83
  • EUR
    Покупка 31.06
    Продажа 31.46
  • Актуальное
  • Важное
2021, воскресенье
26 сентября
22:45
Дмитрий Кулеба
Кулеба рассказал, какими будут последствия выборов в Германии для Украины
22:20
УПЛ: Как выглядит турнирная таблица после матчей 9-го тура чемпионата Украины
21:50
Андрей Мельник
Посол Украины в Германии прокомментировал результаты экзитполов на выборах в Бундестаг
21:29
"Металлист 1925" не пустил "Десну" на третье место в УПЛ
21:01
Netflix назвал дату выхода 5-го сезона сериала "Корона"
20:35
Россия бросит на содержание оккупированных территорий Донбасса 990 млрд рублей, - украинская разведка
20:08
Усик повторил достижение, которое покорилось только двоим чемпионам
19:49
Кабул аэропорт
"Талибан" призвал международные авиакомпании возобновить рейсы в Кабул
19:34
"Заря" разгромила "Днепр-1" в УПЛ, результаты других матчей 9-го тура
19:13
Выборы в Бундестаг в Германии: обнародованы результаты экзитпола
18:49
Эксклюзив
Псевдовыборы в Госдуму РФ показали, как будут фальсифицировать "перевыборы" Путина в 2024-м, - Фейгин
18:29
Джошуа назвал неожиданную причину поражения от Усика
18:04
В Германии кандидата в канцлеры застали за нарушением во время голосования
17:49
26 сентября на фронте: украинский военный подорвался на взрывном устройстве
17:24
Шаман Габишев
Шамана Габышева, который шел в Москву изгонять Путина, бросили в психбольницу на принудительное лечение
17:01
Синоптик Наталья Диденко пообещала много солнца и сухой погоды
16:40
Промоутер Усика назвал главное условие реванша с Джошуа
16:21
Исландия стала первой страной в Европе, где большинство мест в парламенте займут женщины
15:54
"Львов" победил "Минай" в УПЛ, результаты других матчей 9-го тура
15:41
Швейцарцы на референдуме поддержали легализацию однополых браков
15:22
В Megogo выступили с заявлением из-за перебоев с трансляцией боя Усик - Джошуа
14:50
На отдыхе с Шойгу в Сибири Путин выглядел смущенным и опирался на палку
14:23
Минфин заверил Минобороны в готовности погасить задолженности перед военными, - главком ВСУ Залужный
14:00
Хмельницкий автор Юрий Даценко представил новую часть приключений хирурга Якова Ровнера
13:37
Вадим Мельник (БЭБ)
Директор Бюро экономической безопасности объяснил, чем будет заниматься ведомство
13:16
В оккупированном Луганске "дистанционка" заключается в передаче тетрадей через окно, а с коронавирусом борются сомнительными приборами
13:00
Великобритания срочно выдаст 5 тыс. рабочих виз водителям грузовиков
12:48
Разумков во второй раз вылечился от COVID и готов к "многим вызовам"
12:22
Алан Ланкастер (группа Status Quo)
В 72 года умер основатель группы Status Quo Алан Ланкастер
12:00
Пауло Коэльо
Коэльо сказал, кому посвятил свою новую книгу
11:36
Правительство РФ выделило $23 млн для подготовки высадки на Луну
11:15
В хостеле на столичной Борщаговке сгорел 34-летний мужчина
11:00
В центре Черновцов поставили чучела диких животных для фотосессий. Но теперь уберут
10:33
Онуфрий летает на вертолете Новинского за 45 млн грн. Фотофакт
10:10
Белорусские партизаны подожгли базу ОМОНа в Минске и стрельбище силовиков в Бобруйске
09:55
Псел в Сорочинцах
В Сорочинцах легковушка слетела в реку: водителя и пассажиров ищут
09:27
25 сентября на фронте: с российской стороны - 4 обстрела, с украинской - раненый вблизи Марьинки
09:11
Абдель Фаттах Ас-Сиси
Египет приглашает Украину создать индустриальный хаб
08:50
Мастер из Чернигова самостоятельно изготавливал автоматы, пулеметы и взрывчатку. Теперь может сесть на 3-7 лет
08:30
Пандемия COVID в Украине: 4647 новых заражений, 69 - смертей. Как и в начале, Тернополь и Черновцы снова в лидерах
Больше новостей