DeepNude - приложение, раздевающее женщин. Как оно работает? Что такое дипфейк?

DeepNude - приложение, которое было выпущено в июне 2019 года. С помощью нейросети оно «удаляет» одежду с женщины на фотографии. Такая возможность вызвала бурную реакцию и уже 27 июня разработчики заявили, что закрывают проект.

Глава Facebook* Марк Цукерберг обозначил проблему распространения дипфейков в социальных сетях и пообещал с ними бороться.

Что такое дипфейки? Как работало приложение DeepNude и почему его закрыли? Что говорит о дипфейках Цукерберг? Об этом - в материале Fishki.

Что такое дипфейк?

Дипфейк (Deep Fake) -дословно «глубокая подделка». Так называют сделанные с помощью нейросетей видеоролики или фотографии, на которых лицо одного человека заменено другим. Вот, например, выступление Дженнифер Лоуренс с лицом Стива Бушеми.

Зачастую нейросети используются для создания «голых» фотографий и порнороликов с известными людьми. Одна из жертв дипфейков актриса Скарлетт Йоханссон даже комментировала поддельные ролики со своим участием.

«Очевидно, что это не влияет на меня очень сильно, так как люди предполагают, что это всё-таки не я в этом порно, как бы унизительно это всё ни было. Я думаю, что преследовать [создателей этих роликов] по закону бессмысленно, потому что интернет - это гигантская тёмная кротовая нора, которая пожирает сама себя», - считает актриса.

Что такое DeepNude?

В июне 2019 года в сети появилось приложение DeepNude. По словам разработчиков, приложение «удаляет» одежду с женщин с помощью нейросетей. Достаточно загрузить снимок женщины в купальнике или нижнем белье, чтобы увидеть ее обнаженное тело.

В бесплатной версии сервис оставлял на фото огромный водяной знак, который закрывал большую часть результата работы.

За 50 долларов можно было получить снимок с меткой FAKE.

А за 100 долларов пользователь мог получить фото без всяких знаков. Однако через некоторое время один из пользователей взломал приложение и создал расширение, которое предоставляет бесплатный доступ к премиум-версии, генерирующей фото безо всяких водяных знаков, сообщил TJournal.

Создатель приложения рассказал журналистам Vice, что его зовут Альберто. По словам мужчины, он тренировал нейросеть на 10 тысячах фотографий обнаженных женщин.

«Я спрашивал у себя, правильно ли я поступаю. Но то же самое можно сделать и в фотошопе, просто за несколько часов, а у меня за 30 секунд. Это просто забавный эксперимент. Если у кого-то плохие намерения с этими фото, то я тут ни причём. Если не я это сделаю, то кто-то другой», - сказал Альберто.

Fishki протестировал приложение на некоторых отечественных знаменитостях.

Как и почему DeepNude закрыли?

Информация о сервисе появилась в СМИ 26 июня, а 27 июня разработчики заявили, что «мир еще не готов к DeepNude» и удалили приложение. В их обращении к пользователям в твиттере говорится, что они не ожидали такой популярности сервиса.

«Мы никогда не думали, что наш сервис станет вирусным, и мы не сможем контролировать трафик. Мы сильно недооценили запрос. Несмотря на принятые меры безопасности (водяные знаки), если его используют 500 тысяч человек, вероятность того, что люди будут злоупотреблять им - слишком высока», - написал создатели.

«Мы не хотим зарабатывать деньги таким образом. Конечно, некоторые копии DeepNude будут опубликованы в интернете, но мы не хотим быть теми, кто продаёт это приложение. С этого момента DeepNude не будет выпускать другие версии приложения и давать доступ к уже существующим, даже в премиум-версию. Мы возвратим средства тем людям, которые ещё не успели улучшить свою версию. Мир ещё не готов к DeepNude».

Что говорит про дипфейки Цукерберг?

Глава Facebook* Марк Цукерберг на фестивале Aspen Ideas в Колорадо сообщил, что социальная сеть планирует создать новые правила для регулирования дипфейков, которые распространяются на платформе.

«Считаю, что дипфейки отличаются от ложной информации. Нам нужно удостовериться, что мы чётко понимаем, что такое дипфейк. Это манипуляция медиа с использованием искусственного интеллекта, чтобы заставить кого-то говорить, то чего он не хотел? Считаю такое понятие разумным», - отметил глава Facebook*.

«Нашей системе потребовалось время, чтобы отследить эти ролики [дипфейк с «пьяной» Ненси Пилоси], а партнёрам, которые занимаются проверкой фактов, отметить их как ложную информацию. Дипфейк распространился намного сильнее, чем должен был по нашим правилам», - признал Цукерберг.