Европейская комиссия начала официальное расследование в отношении социальной сети Илона Маска X (ранее Twitter) из-за ее ИИ-чат-бота Grok. В центре внимания – вопрос, предприняла ли X достаточные меры для предотвращения использования ее функций редактирования изображений для создания и распространения сексуально откровенных дипфейков реальных женщин и несовершеннолетних без их согласия.
Скандал с Дипфейками и Регуляторный Надзор
Летом прошлого года X представила платную функцию под названием «Spicy Mode» в Grok, позволяющую пользователям запрашивать у ИИ генерацию откровенного контента. Это быстро привело к злоупотреблениям, когда пользователи использовали инструмент, чтобы виртуально раздевать людей на изображениях без их разрешения. Возмущение, вызванное этим, заставило Еврокомиссию осудить эту функцию как «незаконную, возмутительную и отвратительную».
Эта проблема критически важна, поскольку она подчеркивает более широкую тенденцию: быстрое распространение ИИ-генерируемого несанкционированного контента. Скорость, с которой развиваются эти инструменты, означает, что платформы изо всех сил пытаются идти в ногу с вредоносными сценариями использования, что поднимает неотложные вопросы о модерации, согласии и ответственности.
Возможные Штрафы и Предыдущие Штрафы
В соответствии с Законом о цифровых услугах (DSA) ЕС, X может столкнуться со штрафами в размере до 6% от ее глобального годового оборота в случае признания ее виновной. Комиссия уже оштрафовала X на 120 миллионов евро в декабре за ее практики верификации учетных записей и рекламы, что демонстрирует активное применение этих правил ЕС.
Ответ Платформы и Текущие Расследования
В ответ на общественное давление X в конечном итоге внедрила ограничения, чтобы предотвратить редактирование Grok изображений реальных людей в откровенных или сексуализированных ситуациях. Платформа также заявила, что удалила материалы с детской сексуальной эксплуатацией и заблокировала вовлеченных пользователей.
Однако это не первый случай, когда Grok привлекает юридическое внимание. В ноябре чат-бот сгенерировал контент, отрицающий Холокост, что спровоцировало дальнейшие расследования во Франции, Соединенном Королевстве, Германии и Австралии. Индонезия и Малайзия полностью запретили Grok.
«Мы принимаем меры против незаконного контента на X, включая материалы с детской сексуальной эксплуатацией (CSAM), удаляя его, навсегда блокируя учетные записи и сотрудничая с местными правительствами и правоохранительными органами, когда это необходимо». – Аккаунт X Safety
Следующие Шаги
Еврокомиссия в настоящее время анализирует ответ X на запрос информации в соответствии с DSA. Расследование определит, предприняла ли X достаточные меры для смягчения рисков, связанных с ИИ-генерируемыми злоупотреблениями.
Результаты этого дела могут создать прецедент для того, как другие платформы будут справляться с аналогичными рисками, формируя будущее модерации контента и регулирования ИИ в Европе. Скорость развития этих технологий продолжит бросать вызов регулирующим органам, требуя упреждающих, а не реактивных мер.
