Der Standard: внедрять искусственный интеллект в Евросоюзе — неразумно и даже опасно

Новая цифровая стратегия ЕС предоставляет карт-бланш технологическим концернам, считает бывший депутат Европарламента Юлия Реда. В своей статье для Der Standard она пишет, что в стратегии отсутствуют запреты на использование технологий, связанных с искусственным интеллектом. Между тем, по её мнению, эти технологии очень несовершенны: им свойственны частые ошибки, а также они создают потенциальную опасность для пользователей.

После представления новой цифровой стратегии ЕС главы технологических концернов получили карт-бланш, пишет бывший депутат Европарламента Юлия Реда в своей статье для Der Standard. По мнению Реда, IT-компании могут быть удовлетворены содержанием недавно опубликованной цифровой стратегией ЕС.

Из стратегии было убрано предложение о запрете системы автоматического опознания лиц, пишет Реда. Что касается предложений о регулировании интернет-рекламы, то они сформулированы крайне расплывчато. Планировавшееся ранее предписание о приватности в сети было заморожено.

Основной частью цифровой стратегии стали положения об искусственном интеллекте: глава Facebook Марк Цукерберг преподносит эту технологию в качестве решения всех проблем с пропагандой терроризма и дезинформацией. Это неудивительно, отмечает Реда: с помощью искусственного интеллекта компания получает доступ к огромному массиву данных, что предоставляет ей конкурентное преимущество.

Впрочем, на практике искусственный интеллект далеко не всегда бывает «умным», считает Реда. Эта технология основывается на сравнении отрывков данных: она способна находить сходства, но не понимает значения сравниваемых отрывков. Искусственный интеллект не в состоянии понимать контекст: к примеру, он не распознаёт юмор или нюансы определённых языков. Существует множество примеров того, как искусственный интеллект ошибочно блокировал абсолютно безобидные материалы. Несмотря на это, в цифровой стратегии ЕС, в первую очередь, подчёркиваются возможности и преимущества данной технологии.

Что касается технологии распознавания лиц, то в черновом варианте стратегии она была запрещена, однако теперь её использование вынесено как тема для дискуссии, пишет Реда. В качестве примера безопасного применения подобной технологии Еврокомиссия приводит автоматическую разблокировку экрана мобильного телефона. Впрочем, по мнению Реда, это применение также спорно: телефон будет способен распознать лицо владельца, однако он не способен понять, действительно ли владелец хочет разблокировать экран. Таким образом, возникает возможность разблокировки экрана против воли владельца.

По мнению Реда, со стороны Брюсселя было бы разумно запретить применение технологий, связанных с искусственным интеллектом. Время на это ещё остаётся: до марта будут идти консультации, в ходе которых общественность может потребовать внесения поправок в цифровую стратегию ЕС.