В США нарастает скандал, связанный с созданием дипфейков с помощью приложения модели Grok AI.
На прошлой неделе в своей статье я рассказывал, что новое приложение модели искусственного интеллекта компании xAI позволяет «обнажать» людей на фотографиях.
На появившиеся в Сети измененные снимки известных персон теперь отреагировали не только официальные чиновники, но и прокуроры.
Так, на прошлой неделе прокуратура Калифорнии объявила о начале расследования в отношении компании Илона Маска в связи с сообщениями о том, что чат-бот Grok используется для создания изображений сексуального характера с участием женщин и несовершеннолетних без их согласия.
Отмечу, что в Калифорнии производство интимных изображений без согласия, а также материалов, содержащих сексуальное насилие над детьми, подпадает под действие местного закона CSAM.
В минувшую пятницу компании xAI было предписано немедленно устранить нарушения.
Напомню, что ранее после волны критики функция «обнажения» людей была сохранена компанией, но предоставлялась только для платных подписчиков.
А 14 января текущего года xAI заявила, что в странах, где это незаконно, Grok будет блокировать возможность пользователей создавать изображения реальных людей в бикини, нижнем белье и подобной одежде.
Другим резонансным событием прошлой недели по этой теме стала подача иска в суд Нью-Йорка матерью одного из сыновей Илона Маска — Эшли Сент-Клэр, которая утверждает, что на платформе социальных сетей X* появились десятки ее откровенно сексуальных и унизительных дипфейковых изображений.
Эшли через своего адвоката отметила, что чат-бот Grok используется в качестве инструмента преследования и унижения.
В ответ на это xAI лишила монетизации аккаунт Эшли Сент-Клэр на X и создала множество других дипфейковых снимков с ее участием, включая изображения в детстве в обнаженном виде.
Кроме того, xAI подала встречный иск, утверждая, что, согласно условиям предоставления услуг X, Сент-Клэр не может подать иск против компании в Нью-Йорке, а должна сделать это в Техасе.
Маск в своем сообщении на X заявил о том, что пользователи его приложения должны нести ответственность за создаваемые ими изображения.
На мой взгляд, xAI, равно как и Илон Маск, продолжают цинично использовать скандал в информационном пространстве для привлечения внимания к своему продукту Grok, а также к сети X.
В некоторых странах уже наложен запрет на использование чат-бота Grok (Индонезия и Малайзия), в других, где рестрикций пока еще не последовало, нейросеть доступна, а регулирующие органы отслеживают развитие ситуации.
Мы продолжим следить за развитием событий.
* Соцсеть X (бывшая Twitter) заблокирована на территории России по требованию Генпрокуратуры.
