Сан-Франциско требует от Apple и Google заблокировать ИИ-приложения для создания обнаженных фото

Противостояние в Кремниевой долине из-за генеративного контента

Офис городского прокурора Сан-Франциско направил официальные требования в компании Apple и Google с призывом немедленно удалить из их магазинов мобильные приложения, предназначенные для создания искусственного обнажения на фотографиях. Речь идет о так называемых приложениях класса nudify, которые используют алгоритмы генеративного искусственного интеллекта для цифровой модификации изображений реальных людей без их согласия. Власти города утверждают, что корпорации не просто игнорируют распространение опасного программного обеспечения, но и получают прямую финансовую выгоду от комиссионных сборов в App Store и Google Play.

Ситуация обострилась после публикации отчета юридического департамента города, где подробно описаны механизмы монетизации 13 конкретного программ. Эти сервисы активно рекламируются в социальных сетях, обещая пользователям возможность раздеть любого человека с помощью одного клика. Основной проблемой является то, что жертвами таких манипуляций становятся обычные граждане, коллеги по работе, учителя и несовершеннолетние лица, чьи снимки берутся из открытых профилей.

Механизмы монетизации и ответственность платформ

Согласно юридическим документам, Apple и Google удерживают стандартную комиссию от внутренних покупок и подписок, которые оформляют пользователи в этих приложениях. В зависимости от программы и продолжительности контракта, эта доля составляет от 15% до 30%. Юристы из Сан-Франциско подчеркивают, что такая модель сотрудничества превращает технологические гиганты в прямых соратников разработчиков вредоносного софта.

Для более детального понимания финансовой структуры и масштабов проблемы, аналитики подготовили сводную таблицу оценки взаимодействия платформ с разработчиками такого типа программного обеспечения.

Юридические последствия и регулирование рынка ИИ

Правовая база вокруг генеративного контента в Соединенных Штатах Америки остается несовершенной, однако прокуроры используют действующие законы о защите прав потребителей и противодействии недобросовестной конкуренции. Требование прекратить противоправную деятельность является первым шагом перед началом полноценного судебного процесса, который может стоить компаниям миллионных штрафов и серьезных репутационных потерь.

Эксперты по кибербезопасности отмечают, что блокировка отдельных названий в магазинах не решает проблему полностью, так как разработчики постоянно меняют имена или используют альтернативные методы дистрибуции через веб-браузеры. Тем не менее, ограничение доступа через официальные каталоги существенно снижает поток новых клиентов и усложняет процесс оплаты услуг.

Технические вызовы для модераторов Apple и Google

Автоматизированные системы проверки кода, применяемые при публикации программ, не всегда способны распознать конечную цель использования нейросети. Многие приложения позиционируют себя как инструменты для базового редактирования фотографий, улучшения качества изображения или создания стилизованных портретов. Лишь после загрузки дополнительных библиотек с серверов разработчика активируется функция генерации порнографического контента.

• Использование обфускации кода для сокрытия запрещенных функций от алгоритмов модерации маркетплейсов.
• Динамическая загрузка вредоносных конфигураций после успешного прохождения первичной проверки.
• Маркетинговые кампании на сторонних площадках, ведущие пользователей по прямым ссылкам в обход общего поиска.
• Быстрое создание клонов под новыми именами после удаления оригинального продукта.

Общественный резонанс и защита прав личности

Общественные организации, занимающиеся безопасностью в интернете, уже длительное время требуют от разработчиков мобильных операционных систем более жесткого контроля за продуктами, работающими на базе нейросетей. Особую опасность такие инструменты представляют для подростков, которые используют их для травли одноклассников в учебных заведениях. Прокурор Сан-Франциско подчеркнул, что право на защиту личного достоинства должно преобладать над финансовыми интересами частных компаний.

Дальнейшее развитие этого дела может создать важный судебный прецедент для всей индустрии информационных технологий. Если суд признает платформы ответственными за контент, созданный сторонними программами, это заставит Apple и Google полностью перестроить свои системы модерации и контроля безопасности цифровых продуктов.