Сейчас читают

Робот Amazon принял за преступников 28 американских конгрессменов

Опубликовано 27 июль 2018.

Инновационная система распознавания лиц Amazon Rekognition не вполне оправдала возложенные на нее ожидания, потому что сразу же перепутала сенаторов США с преступниками.

Активисты общественной организации «Американский союз гражданских свобод» решили устроить системе Rekognition тест-драйв. Они загрузили фотографии 25 тыс. арестованных граждан вперемежку с изображениями сенаторов. В итоге робот окончательно запутался и записал в преступники 28 парламентариев.

Представители «Американского союза» отметили, что ошибки при идентификации людей могут иметь серьезные последствия, ведь систему Rekognition хотели внедрить в полицию. Сотрудники Amazon объяснили ошибки системы проблемами с калибровкой. По их словам, робот должен быть уверен в своих показаниях если не на 100%, то хотя бы на 95%, когда речь идет о распознавании лиц людей.

«Уверенность в 80% — это вполне нормальный показатель, если вы хотите распознавать хот-доги на фотографиях с едой. Но если речь идет об идентификации людей, то показатель должен быть как минимум 95%», — пояснили в Amazon.

Новости СМИ2