Компания Facebook объявила, что отныне будет удалять видео, если заподозрит, что они созданы с помощью дипфейк-технологий.

Facebook приводит два критерия, при обнаружении которых видео будет удалено.

1. Контент был отредактирован или синтезирован — за исключением поправок на ясность или качество — способами, которые не очевидны для обычного человека. Такое редактирование может ввести в заблуждение: зрители могут приписать фейковое высказывание реальному человеку.

2. Видео — продукт работы искусственного интеллекта или машинного обучения, который объединяет, заменяет или накладывает контент.

Сатирические видео, где использованы такие инструменты, Facebook удалять не будет, равно как и те, что были изменены, чтобы скорректировать правильный порядок слов в речи или сократить ее.

Однако несмотря на то что Facebook объявил войну дипфейкам, пообещав $10 млн тому, кто создаст лучший алгоритм для распознавания такого контента, он сам их и разрабатывает.

В ноябре созданная компанией нейросеть смогла скрыть лица людей от распознающих систем на видео. Специальные фильтры немного меняют пропорции лба, глаз и губ, что мешает алгоритму совместить изображение с тем, которое имеется у него в базе. В то же время для человеческого глаза лицо остается узнаваемым.

Сейчас технологиями дипфейк в основном пользуются мошенники, чтобы снимать или переводить деньги под чужим именем. Эксперты считают, что в ближайшие годы такими инструментами овладеет большинство пользователей, а Snapchat уже предлагает их попробовать.

Inc.