Искусственный интеллект от Amazon перепутал политиков с преступниками

14:02  27 Июля 2018
61
Вашингтон, США

Система распознавания лиц Rekognition от Amazon перепутала политиков с преступниками, не выдержав проверки, организованной  Американским союзом гражданских свобод (ACLU).

Общественники испугались ошибок нейросети

Активисты организации предложили системе 25 тысяч фотографией преступников, а потом показали обученному алгоритму фотографии конгрессменов. Результат оказался интересным: нейросеть идентифицировала 28 политиков как преступников. Список неверно опознанных лиц общественники выложили на своем сайте. 

При этом члены Американского союза гражданских свобод утверждают, что использовали вполне стандартные настройки для искусственного интеллекта: порог уверенности системы составлял 80%. 

Учитывая, что Amazon предлагает Rekognition полиции, то цена такой ошибки может быть очень высока. В Amazon объяснили инцидент неправильной калибровкой алгоритма. отметив, что 80% - нормальный показатель, если речь идет о распознавании, например, "хот-догов на фото с едой". В случае с идентификацией людей представители Amazon рекомендуют устанавливать порог уверенности системы на уровне не менее 95%. 

В Американском союзе гражданских свобод выразили опасение, что использование Rekognition лишь усугубит дискриминацию по цвету кожи, в том числе в отношении и без того подвергающимся притеснению афроамериканцев и мигрантов из Мексики. 

Напомним, что в США был случай, когда робот "уволил" ценного сотрудника, перестав пускать его в офис и прислав ему на почту уведомление о том, что он больше не работает в компании. 

Читайте нас в Яндексе

Автор: Людмила Прогова
Новости партнёров
Новости партнёров
Новости партнёров
Слепые люди «увидят» предметы с помощью российского гаджета

Инженерами российской компании «Бизнес бюро» создана система СОМСИ, которая поможет незрячим людям лучше ориентироваться в пространстве без посторонней помощи.

2:41  19 Ноября 2018
52
Гидрометцентр посоветовал московским водителям поменять резину

Грядущие похолодания и осадки на территории Москвы приведут к гололедице, поэтому водителям стоит поменять резину на зимнюю, сообщил научный руководитель Гидрометцентра России.

2:27  19 Ноября 2018
55
Экс-мэр Нью-Йорка подарил своей альма-матер 1,8 млрд долларов

О пожертвовании университету Джонса Хопкинса крупной суммы в 1,8 миллиарда долларов рассказал бывший мэр Нью-Йорка Майк Блумберг.

2:20  19 Ноября 2018
37
Картина «Сердце мира» получила в Польше гран-при фестиваля российских фильмов

Фестиваль российского кино «Спутник над Польшей» завершился в воскресенье в Варшаве, главный приз фестиваля завоевала картина Натальи Мещаниновой «Сердце мира».

2:13  19 Ноября 2018
47
Минобороны объявило о перевооружении ракетных войск на новые системы

О том, что модернизированные РСЗО «Торнадо-С» заменят реактивные системы залпового огня (РСЗО) крупного калибра «Смерч», рассказал начальник ракетных войск и артиллерии Вооруженных сил РФ Михаил Матвеевский.

2:10  19 Ноября 2018
33
«Фантастические твари» набрали в России больше 800 млн рублей за четыре дня

За минувший уикенд российский кинопрокат возглавил фильм «Фантастические твари: Преступления Грин-де-Вальда». Он собрал 828 млн рублей за четыре дня.

1:58  19 Ноября 2018
53
Во Владивостоке случилось возгорание торгового центра

Крупное возгорание произошло во владивостокском торговом центре «БУМ». Пожарные тушат 800 квадратных метров пожара, пострадавших нет.

1:57  19 Ноября 2018
36
Ученые РАН рассказали о существовании древнего континента Арктида

О том, что в древние времена на Земле существовал континент Арктида, рассказали ученые Института нефтегазовой геологии и геофизики им. А.А. Трофимука СО РАН.

1:44  19 Ноября 2018
51
Появились предварительные результаты выборов на Мадагаскаре

Предварительные результаты президентских выборов на Мадагаскаре, прошедшие 7 ноября, были опубликованы избирательной комиссией.

1:40  19 Ноября 2018
59
Швейцарцы вышли в плей-офф Лиги наций

Победа над сборной Бельгии позволила швейцарским футболистам занять первое место в своей группе и выйти в плей-офф Лиги наций.

1:37  19 Ноября 2018
50
Православным символом Петербурга стал Исаакиевский собор

В результате онлайн-голосования, в котором принимали участие жители Санкт-Петербурга, православным символом северной столицы стал Исаакиевский собор.

1:19  19 Ноября 2018
60
Нурмагомедов и Садулаев призывают к закрытию ночных клубов в Дагестане

Закрыть в Дагестане ночные клубы после убийства бойца Росгвардии в Махачкале призвали известные российские спортсмены Хабиб Нурмагомедов и Абдулрашид Садулаев.

1:09  19 Ноября 2018
52
Резкое подорожание автомобилей в России предрек эксперт

Согласно мнению эксперта, цены на автомобили будут расти до Нового года, а затем произойдет резкий спад авторынка из-за слишком дорогой стоимости автотранспорта.

0:59  19 Ноября 2018
68
Составлен рейтинг благоприятных для трудоустройства пенсионеров регионов РФ

Москва и Петербург заняли лидирующие позиции в списке российских регионов, где созданы наиболее благоприятные условия для трудоустройства пенсионеров.

0:57  19 Ноября 2018
69
Разрешить покупку оружия с 21 года предлагают в Госсовете Татарстана

Минимальный возраст владения оружием, согласно предложению депутатов Татарстана, необходимо поднять с 18 до 21 года. Соответствующий законопроект планируется рассмотреть на заседании Госсовета Республики 19 ноября.

0:46  19 Ноября 2018
43