Что такое дипфейк простыми словами и как от него защититься

Что такое дипфейк и как не дать себя обмануть | Источник: Parents/Midjorney — Источник:
Parents/Midjorney

Мы уже не можем доверять даже собственным глазам — искуственный интеллект меняет мир, заполоняя его брейнротами и дипфейками. С одной стороны, прекрасное время для создателей контента, с другой — мошенники тоже чувствуют себя прекрасно, ведь обманывать с помощью ИИ просто, как никогда. Разбираемся, что такое дипфейк и как защитить себя от обмана.

Что такое дипфейк простыми словами

Источник: Parents/Midjorney — Источник:
Parents/Midjorney

Дипфейк — изображение человека, полностью или частично сгенерированное искуственным интеллектом. Термин происходит от двух английских слов: deep learning — «глубокое обучение» и fake — «подделка».

С помощью ИИ можно создать реалистичное фото, аудио или видео. Дипфейки часто используются в кино, так как это дает возможность существенно сократить бюджет на грим и спецэффекты. А еще дипфейки позволяют «оживить» давно ушедших актеров — так в седьмом «Форсаже» появился погибший Пол Уокер, а в фильме «Манюня» — Юрий Никулин.

Виды дипфейков

поддельный голос (synthetic speech) — сгенерированный нейросетью голос конкретного человека, либо преобразование голоса одного в голос другого;
подмена лица (face swap) — лицо человека заменяется изображением другого;
видео — ИИ-ролик, в котором конкретный человек говорит и двигается;
онлайн-видео — ИИ в реальном времени заменяет изображение человека во время видеоконцеренции.

Активно пользуются дипфейками и мошенники. Так они подделывают голоса — например, вам может позвонить или записать голосовое сообщение знакомый с просьбой о помощи. Огромное количество людей ведется на подобное мошенничество и переводит преступникам все свои деньги.

Такде дипфейки используют для кибербуллинга и шантажа. Часто жертвами подобных манипуляций становятся женщины — сегодня чувствует целая индустрия, позволяющая сделать порнографические дипфейки с бывшей, так называемый феномен «порно из мести».

Как защитить себя от создания дипфейка

Публикуйте меньше личной информации. Да, банки и прочие приложения и так знают про вас все, но не упрощайте работу мошенников, публикуя каждый свой шаг.
Закройте социальные сети. Сегодня это звучит революционно, но не обязательно публиковать фотографии себя и своих детей на весь мир. Чем меньше случайных людей видят ваши фото, тем лучше.
Используйте водяные знаки. Защищайте свои фото и видео с помощью водяных знаков.
Используйте двухфакторную аутентификации. Чем сложнее зайти в ваш аккаунт, тем лучше — так вы сможете защитить свои данные от использования в преступных целях.

Как распознать дипфейк

Нейросети растут и развиваются, и распознавать сгенерированные изображения становится все труднее. В первую очередь, конечно, стоит взять за привычку все проверять: если вы получили сообщение от близкого человека со странной просьбой, не торопитесь делать, что сказать — сначала выясните, точно ли перед вами живой человек.

Мошеннические схемы с использованием дипфейков строятся на том, чтобы усыпить вашу бдительность знакомым лицом или голосом. При этом преступники хотят заставить вас испытывать тревогу или беспокойство о близком — именно поэтому «звонящий» рассказывает о трудностях, в которые попал. Важно в любой ситуации если не сохранять спокойствие, то хотя бы уметь останавливаться, чтобы подумать, что делать дальше.

Как распознать сгенерированное видео

Следите за светом и тенью. В норме источник света в видео один, поэтому если их больше и они не совпадают по направлению, это может быть ИИ. Также и с тенями — они могут падать не туда, или вообще отсутствовать на видео.
Обращайте внимание на черты лица. Даже самое качественное изображение не может пока воссоздать человеческую мимику на все 100%.
Следите за движениями. Человек постоянно двигается — моргает, дышит, дергает руками. Насколько органично это выглядит? Не происходит ли слишком часто или слишком резко?
Используйте распознавание по фото. Не стесняйтесь делать скриншот экрана или сохранять фото, чтобы проверить его через «поиск по картинкам».
Синхронизация голоса и движений губ. Слова и движения губ могут не соответствовать друг другу, например человек говорит «голос», а губы складываются как в слове «сыр».
Смотрите в глаза. Если с тем, чтобы изображать глаза анатомически верно, ИИ разобрался, то с тем, чтобы в них появилась «глубина» и «мысль», пока нет: взгляд у дипфейка часто не осмысленный, как будто стеклянный.

Самые известные дипфейки

В кино и на телевидении дипфейки встречаются часто — это, как уже было сказано, и «воскрешение» звезд прошлого, и омоложение звезд настоящего. В социальных сетях сгенерированные изображения встречаются не менее часто.

Кто-то создает себе новую личность, ведя аккаунт от лица ИИ-аватара, кто-то — генерирует бесконечное количество контента с героями книг, фильмов, реальными историческими персонажами или животными. Делимся некоторыми из них: