Європейська комісія розпочала офіційне розслідування щодо соціальної мережі X Ілона Маска (раніше Twitter) через її штучний інтелект чат-бот Grok. Основна увага зосереджена на тому, чи X вжив достатніх заходів, щоб запобігти використанню його функцій редагування зображень для створення та розповсюдження відверто сексуальних дипфейків реальних жінок і неповнолітніх без їхньої згоди.
Скандал Deepfakes і регуляторний нагляд
Минулого літа X представив платну функцію під назвою «Spicy Mode» для Grok, що дозволяє користувачам просити штучний інтелект створити відвертий контент. Це швидко призвело до зловживань, коли користувачі використовували інструмент, щоб віртуально роздягати людей на зображеннях без їхнього дозволу. Обурення, викликане цим, змусило Європейську комісію засудити цю функцію як «незаконну, обурливу та огидну».
Ця проблема є критичною, оскільки вона підкреслює ширшу тенденцію: поширення неавторизованого контенту, створеного штучним інтелектом. Швидкість, з якою розвиваються ці інструменти, означає, що платформам важко встигати за випадками шкідливого використання, що викликає гострі питання щодо модерації, згоди та відповідальності.
Можливі штрафи та попередні штрафи
Відповідно до Закону ЄС про цифрові послуги (DSA), X може загрожувати штрафом у розмірі до 6% його глобального річного обороту, якщо його визнають винним. У грудні Комісія вже оштрафувала X на 120 мільйонів євро за перевірку облікового запису та рекламну практику, демонструючи активне дотримання цих правил ЄС.
Відповідь платформи та поточні розслідування
У відповідь на тиск громадськості X зрештою запровадив обмеження, щоб Grok не міг редагувати зображення реальних людей у відвертих або сексуальних ситуаціях. Платформа також заявила, що видалила матеріали сексуальної експлуатації дітей і забанила залучених користувачів.
Однак це не перший раз, коли Грок привертає увагу юристів. У листопаді чат-бот створив контент заперечення Голокосту, що спонукало до подальших розслідувань у Франції, Великобританії, Німеччині та Австралії. Індонезія та Малайзія повністю заборонили Grok.
«Ми вживаємо заходів проти незаконного вмісту на X, зокрема матеріалів сексуальної експлуатації дітей (CSAM), видаляючи його, остаточно призупиняючи облікові записи та співпрацюючи з місцевими органами влади та правоохоронними органами, коли це необхідно». – Обліковий запис безпеки X
Подальші кроки
Наразі Комісія розглядає відповідь X на запит інформації відповідно до DSA. Розслідування визначить, чи X вжив достатніх заходів для пом’якшення ризиків, пов’язаних із зловживаннями, спричиненими ШІ.
Результат цієї справи може створити прецедент для того, як інші платформи справляються з подібними ризиками, формуючи майбутнє модерації вмісту та регулювання штучного інтелекту в Європі. Швидкість, з якою розвиваються ці технології, і надалі змушуватиме регулятори бути проактивними, а не реагувати.
