Коротко о том, что нужно для deepfake, и борьбе платформ с ложными фото и видео.

Работать исключительно через ГАРАНТ.
TRUST

TRUST

Опытный
ЗАБАНЕН
Старожил
Регистрация
10/6/17
Сообщения
1.110
Репутация
5.078
Реакции
5.307
RUB
0
Сделок через гаранта
3
Если вы планируете сделку с его участием, мы настоятельно рекомендуем вам не совершать ее до окончания блокировки. Если пользователь уже обманул вас каким-либо образом, пожалуйста, пишите в арбитраж, чтобы мы могли решить проблему как можно скорее.
Cложно ли сделать deepfake-видео и можно ли бороться со злоумышленниками, если использовали лицо для поддельного ролика.


1611231837400.png

18 января в сети появилась информация, что мошенники выпустили два deepfake-видео с рекламой супердоходов, скопировав лицо основателя Flocktory и Dbrain Дмитрия Мацкевича. В рекламе его копия приглашает на инвестиционные мастер-классы с обещанием 360% годовых.

Сам же Мацкевич считает, что это «крутое иммерсивное шоу про будущее ИИ, которое уже наступило» и один из первых коммерческих примеров использования deepfake, которых в будущем будет всё больше.

"Благодаря ей мы стали частью иммерсивного шоу, в котором будущее ИИ уже наступило, понятие личности размывается, а любой человек может оказаться в рекламе сомнительных услуг."

1611232064900.png
Кадр из deepfake-видео с основателем Dbrain. На данный момент видео исчезло с ютуба.

Посмотреть вложение mp4.mp4































Ролик создан с помощью дипфейка (deepfake), — нейросети, которая подставляет лицо выбранного человека в видео с максимальной реалистичностью. ИИ сначала анализирует видео и фотографии с участием конкретного человека, а затем генерирует аудиодорожку и создает ролик таким образом, чтобы движения губ соответствовали тому, что говорит человек.

Дипфейк-фрод — новая реальность. Программисты со сравнительно небольшим опытом работы с алгоритмами уже могу подделывать видео с известными предпринимателями, инфлюенсерами и политиками.
Например, бывший президент США Барака Обамы называет деятельность Дональда Трампа «полным провалом». Конечно, на самом деле Обама таких заявлений не делал.




Видео с Димой Мацкевичем создано похожим образом: мошенники обучили алгоритм на основе фотографий и видео с его участием, а затем записали нужную звуковую дорожку и запустили рекламу.

Кроме короткого ролика, авторы фрода сняли получасовой вебинар. Его ведет дипфейк Димы, который находится в кадре почти пять минут — выглядит это действительно круто. Артефакты на видео почти незаметны — даже типаж человека, который стал прототипом Мацкевича, подобран верно.


Что нужно, чтобы сделать deepfake-видео

Существуют открытые и бесплатные нейросетевые приложения с технологией deepfake, которые можно использовать для замены лиц и создания видео с нужным человеком в «главной роли». Самые популярные открытые библиотеки — и .

1611233105600.png
DeepFaceLab


DeepFaceLab позволяет заменить лицо, голову и возраст человека на видео, а также оптимизировать движение губ под нужные слова. Для работы нужен компьютер с мощной видеокартой и большим объёмом видеопамяти, исходное видео с лицом-источником и целевое видео, на которое будет накладываться нужное лицо.

Разработчики DeepFaceLab опубликовали короткую видеоинструкцию по созданию deepfake





Процесс создания deepface-видео через DeepFaceLab в упрощённом виде:

  • Разбиение обоих видео на кадры и извлечение лиц в виде изображений. Их качество и количество зависят от исходника: чем длиннее видео и выше разрешение, тем лучше будут изображения «захваченного» лица, а затем и готовое видео. Некорректные и нечеткие кадры удаляют.
  • На базе изображений создаются «маски», а пользователь выделяет границы лиц для более естественного наложения.
  • Нейросеть обучается под конкретные случаи: замена лица, головы, убирание фона, сохранение исходных черт лица. Для этого в DeepFaceLab есть несколько параметров, которые необходимо подбирать вручную для максимальной точности ролика.
  • Обученную модель нейросети используют для слияния «созданного» лица с исходными кадрами видео.
  • Готовые deepfake-кадры преобразуют обратно в видео.
Обучение модели нейросети — самая ресурсоёмкая задача, от которой зависит качество deepfake. Чем дольше тренируется нейросеть и чем лучше исходники, тем качественнее получится.
1611233293700.png

В целом, хотя работа над deepfake и занимает несколько десятков часов, она не требует особых навыков. Достаточно иметь мощный компьютер и время для экспериментов по созданию маски, выбору модели нейросети и её обучения.


Можно ли что-то делать, если злоумышленники использовали лицо

Юридически deepfake-видео не нарушают законов, из-за новизны они находятся в «серой зоне» ответственности, The Verge. В России нет законов, регулирующих deepfake.

Перед выборами президента США в 2020 году интернет-платформы обновили правила: во многом запретили использование и публикацию deepfake-видео, а также начали разработку алгоритмов по их определению.

Посмотреть вложение mp4.mp4


















Разработка Microsoft Research по определению deepfake



Но пожаловаться на deepfake можно не везде:

  • На Facebook нельзя явно пожаловаться на deepfake-видео, но можно попробовать пожаловаться на «скам» и «введение в заблуждение». Компания , что сама будет бороться с вредоносными deepfake, которые вводят в заблуждение пользователей или нарушают правила соцсети. Исключения только для юмористических видео и роликов с отредактированным порядком слов.

  • У Instagram нет правил, по которым модерируется и удаляются deepfake-материалы.

  • У «Яндекса» есть жалобы на откровенные материалы, в том числе созданные с помощью deepfake. Компания может удалить ссылки на фото и видео в выдаче, если они нарушают права пользователя.

  • «ВКонтакте» удаляет deepfake с «явными изменениями» по пользователя в поддержку, менее очевидные случаи могут требовать дополнительной проверки. Если подобные ролики используются для шантажа или относятся к порнографии, нужно сообщить о них модераторам через кнопку «Пожаловаться», рассказали vc.ru в компании.

  • В Twitter нельзя отправить запрос на удаление твита с deepfake, хотя официально соцсеть deepfake-видео и другие манипуляции с медиа и обещает помечать подобное содержимое.

  • У YouTube более «мягкие» правила: видеохостинг удалять связанные с выборами deepfake-ролики, не уточнив про возможные мошеннические видео. В апреле 2020 года сервис, к примеру, deepfake-ролик, использующий голос репера Jay-Z, несмотря на артиста. YouTube объяснил это тем, что «запросы на удаление были неполными».

  • У Google есть специальная , через которую можно удалить «недобровольную синтетическую порнографию». Также компания с 2019 года инструменты по распознаванию deepfake.

  • Microsoft также технологии по распознаванию deepfake, а Adobe сохранять в медиафайле полную историю создания и изменений, чтобы любой желающий мог понять, кто и как его менял.
 
Если вы планируете сделку с его участием, мы настоятельно рекомендуем вам не совершать ее до окончания блокировки. Если пользователь уже обманул вас каким-либо образом, пожалуйста, пишите в арбитраж, чтобы мы могли решить проблему как можно скорее.
будущее непредсказуемо)
 
Сверху Снизу