Европейский парламент призывает запретить массовую слежку с использованием искусственного интеллекта

Европейский парламент призывает запретить массовую слежку с использованием искусственного интеллекта

Источник · Перевод автора

Парламент ЕС проголосовал за резолюцию, которая по существу призывает к запрету на континенте биометрических технологий массового наблюдения, таких как системы распознавания лиц, на базе искусственного интеллекта.

Большое “нет” массовой слежке

Депутаты Европарламента (члены Европейского парламента) обеспокоены дискриминацией, предвзятостью и несправедливостью, которые возникают из-за прогнозирующей полицейской деятельности на основе ИИ, и их опасения основаны на многочисленных реальных примерах. Исторически 377 депутатов Европарламента проголосовали «за», 248 – против, 62 – отсутствовали.

Поставщики решений для распознавания лиц на основе ИИ признали, что предвзятость алгоритмов преследовала их системы в течение многих лет, и прилагали усилия для решения этой проблемы с помощью различных наборов данных и оптимизации машинного обучения. Однако дискриминационные ставки все еще слишком высоки, чтобы быть приемлемыми в любом важном контексте развертывания.

Сегодняшним решением Европейский парламент требует ввести постоянный запрет на автоматическое распознавание людей в общественных местах и ​​запретить прогнозирование работы полиции на основе поведенческих данных.

Единственным исключением из запрета являются дела подозреваемых в совершении уголовных преступлений, но даже в этом случае использование баз данных по распознаванию лиц следует исключить из доступных инструментов, используемых для оправдания или доказательства вины этого человека. Clearview AI специально упоминается как пример того, чего следует избегать.

Наконец, MEP требуют более высокого уровня прозрачности, например, использования открытого исходного кода для алгоритмов обнаружения, что позволяет общественности контролировать все аспекты этих систем.

Петар Витанов, главный депутат Европарламента по этому вопросу, заявил следующее:

«Основные права безусловны. Впервые мы призываем к мораторию на развертывание систем распознавания лиц в правоохранительных целях, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам».

Мы категорически против прогнозирующей полицейской деятельности, основанной на использовании ИИ, а также против любой обработки биометрических данных, ведущей к массовому слежению. Это огромная победа для всех граждан Европы.

Системы искусственного интеллекта все еще в разработке

Хотя это важное событие и сильный шаг к защите прав человека в Европе, дело с развертыванием ИИ не закрыто.

«Закон об искусственном интеллекте» все еще обсуждается и разрабатывается, поэтому решение парламента ЕС сейчас играет лишь каталитическую роль. Депутаты Европарламента сообщают, что будет приемлемым и где они хотели бы видеть дополнительные меры безопасности.

В опубликованном сегодня соответствующем отчете Европейская комиссия заявляет, что намерена увеличить частные и государственные инвестиции в технологии искусственного интеллекта до 20 миллиардов евро в год.

В то время как законодательство, лежащее в основе этого массового внедрения, должно будет гарантировать, что все потенциальные злоупотребления, дискриминация и нарушения прав человека будут рассмотрены, системы на базе искусственного интеллекта все еще находятся на пути к тому, чтобы стать вездесущими в Европе.

В США полицейские системы с помощью искусственного интеллекта и массовые системы распознавания лиц все еще не проверяются центральным органом и не контролируются всеобъемлющим законодательством, и в то же время темпы внедрения как в государственном, так и в частном секторах сейчас стремительно растут.