Facebook и Microsoft запускают конкурс по обнаружению фальшивых видео

Facebook и Microsoft запускают конкурс по обнаружению фальшивых видео

Источник · Перевод автора

После того, как председатель комитета по разведке Палаты представителей потребовал детали планов противодействия.

Facebook Inc совместно с Microsoft Corp, коалицией Партнерства по искусственному интеллекту и научным работникам из нескольких университетов, проводят конкурс по лучшему обнаружению подделок, говорится в сообщении компании в четверг.

Гигант соцсетей вкладывает 10 миллионов долларов в «Deepfake Detection Challenge», целью которого является стимулирование исследований по обнаружению. В рамках проекта Facebook поручает исследователям производить реалистичные глубокие подделки для создания набора данных для тестирования средств обнаружения.

Компания заявила, что в видеороликах, которые выйдут в декабре, будут задействованы платные актеры, и пользовательские данные не будут использоваться.

В преддверии президентских выборов в США в ноябре 2020 года на социальные платформы оказывалось давление с целью противостоять угрозе глубоких подделок, которые используют искусственный интеллект для создания гиперреалистичных видеороликов, где человек, кажется, говорит или делает что-то, чего не делал.

В то время как в Соединенных Штатах не было хорошо подготовленного фальшивого видео с серьезными политическими последствиями, потенциал манипулируемого видео вызывал беспорядки, который недавно продемонстрировал «дешевый фальшивый» клип спикера палаты представителей Нэнси Пелоси (Nancy Pelosi), который вручную замедлился, чтобы произнести свою речь кажущуюся невнятной.

В августе Национальный комитет Демократической партии продемонстрировал угрозу со стороны фальшивых видеороликов, создав одного из своих собственных председателей Тома Переса (Tom Perez), чтобы заставить аудиторию на хакерском конгрессе Def Con думать, что настоящий Перес подключился к скайпу.

«Они (глубокие подделки) понижают планку для противника, который хочет создавать манипулируемые носители», – сказал Мэтт Турек (Matt Turek), который руководит программой DARPA Media Forensics.

Некоторые исследователи работают над системами для аутентификации видео или изображения в точке захвата с помощью цифровых водяных знаков. Но быстрое развитие технологии DeepFake привело к гонке вооружений между создателями DeepFake и теми, кто пытается обнаружить видео.

«Это игра в кошки-мышки. Если я разрабатываю обнаружение для глубоких подделок, я даю злоумышленнику новый дискриминатор для проверки», – сказал Сиддхарт Гарг (Siddharth Garg), доцент кафедры компьютерной инженерии в школе Tandon Нью-Йоркского университета.

Технология также становится все более доступной для менее опытных создателей. На прошлой неделе китайское приложение под названием Zao, которое позволяет пользователям убедительно превращать свои лица в кинозвезд, взлетело на вершину магазина приложений страны, хотя оно также столкнулось с негативной реакцией на проблемы конфиденциальности.

Некоторые онлайн-создатели Deepfake также подключаются к этому рынку для простых в создании DeepFake. Энтузиасты машинного обучения, расположенные в разных странах от Польши до Японии, облегчают людям доступ к специальным подделкам.

Они загружают пошаговые учебные пособия на YouTube, взимая плату в размере 30 долларов США за 50 слов подражания в голосе от имени Трампа с помощью искусственного интеллекта и управляя веб-сайтами самообслуживания, которые создают глубокие подделки.

Вызов Deepfake Detection Challenge – не первый случай, когда Facebook, который в настоящее время не имеет конкретной политики в отношении видео с поддельными фотографиями, финансирует научные исследования этой угрозы.

Председатель комитета по разведке Палаты представителей Адам Шифф (Adam Schiff) потребовал в июле, чтобы Facebook, Twitter Inc и Google Alphabet Inc, владеющая YouTube, поделились своими планами по борьбе с мошенниками. Facebook заявил, что тратит 7,5 млн. долларов США на команды в Калифорнийском университете, Беркли, Университете Мэриленда и Корнельском университете в ответ на угрозу.

Одна из этих команд, возглавляемая профессором Калифорнийского университета в Беркли Хани Фаридом (Hany Farid), строит «мягкие биометрические модели», которые отображают причуды настоящих политиков, от прыжков бровей сенатора Берни Сандерса (Bernie Sanders) до поворотов сенатора Элизабет Уоррен (Elizabeth Warren’s), чтобы определить, есть ли новое не настоящее видео.

В новом конкурсе Facebook, основанном на его связях с этими исследователями, примут участие ученые из Cornell Tech, MIT, Оксфордского университета, Калифорнийского университета в Беркли, Университета Мэриленда, Колледж-Парка и Университета Олбани-Суни.

В заявлении в четверг Шифф назвал конкурс «многообещающим шагом».