Приложение DeepNude, генерирующее фото раздетых женщин, закрыли из-за чрезмерной популярности

На этой неделе Интернет вовсю обсуждал проект энтузиастов, которые создали приложение DeepNude из области фейковых генераторов изображений с помощью машинного обучения. Новость о нём появилась 23-исго июня, а уже 26-го разработчики, увидев чрезмерный ажиотаж, решили закрыть проект.

Работа DeepNude основана на open-source алгоритме pix2pix. В 2017 году его разработали в Калифорнийском университете в Беркли. Pix2pix использует генеративные состязательные сети (GAN), которые обучают алгоритм на большом количестве изображений. В случае с DeepNude это была база из 10 000 обнаженных фотографий женщин. В планах также был выпуск приложения которое работало бы с фото мужчин. У приложения было несколько версий для Windows и Linux.

В бесплатной версии программа создает изображения с большим водяным знаком. За одноразовый платеж в $50 пользователь может создавать картинки без воднях знаков, но с большой надписью Fake. За $100 в премиум-версии никаких меток на изображении не будет.

Создатели приложения DeepNude, которое «удаляет» одежду с женщин на фотографиях при помощи нейросетей, уже объявили о закрытии сервиса. Создатели приложения объяснили, что несмотря на принятые меры безопасности (водяные знаки), если его используют 500 тысяч человек, вероятность того, что люди будут злоупотреблять им — слишком высока.

«Мы не хотим зарабатывать деньги таким способом. Конечно, некоторые копии DeepNude будут опубликованы в Сети, но мы не хотим быть теми, кто продает это приложение… С этого момента DeepNude не будет выпускать другие версии приложения и давать доступ к уже существующим, даже в премиум-версию«, — отметили разработчики.

«Это ужасно, — говорит Кейтелин Боуден, основатель активистской организации, которая занимается проблемами порномести, Badass. — Теперь каждый может стать жертвой порномести, даже если не делал обнаженных фотографий. Такие технологии не должны быть в открытом доступе».