Google оголосила про нові заходи безпеки для свого ІІ Gemini, спеціально розроблені для того, щоб підлітки не могли формувати емоційні зв’язки з чат-ботом. Компанія впроваджує так званий «захист особистості» (persona protections), щоб гарантувати, що ІІ не буде виступати в ролі компаньйона, видавати себе за людину або імітувати інтимну близькість при взаємодії з користувачами молодше 18 років.
Боротьба з ризиками ІІ-компанійства
Цей крок став відповіддю на зростаюче занепокоєння експертів із захисту дітей та психічного здоров’я щодо психологічного впливу чат-ботів «дружнього» типу. Ризики, пов’язані з цими технологіями, багатогранні:
- ** Емоційна залежність: ** Існує серйозна побоювання, що неповнолітні можуть розвинути нездорову прихильність до ІІ, сприймаючи його як основне джерело соціального або емоційного спілкування.
- Неналежний контент: Правозахисні групи, такі як Common Sense Media, раніше класифікували моделі ІІ як «високорисковані» для неповнолітніх через можливість зіткнення з контентом, що стосується наркотиків, алкоголю або небезпечних порад щодо ментального здоров’я.
- Імітація близькості: Використовуючи мову, що імітує людські потреби або емоції, ІІ може ненавмисно маніпулювати сприйняттям реальності та соціальної взаємодії у користувача.
Щоб мінімізувати ці ризики, нові захисні механізми Google покликані обмежити використання ІІ формулювань, що виражають особисті потреби або імітують близькі довірчі відносини. Крім того, ці оновлення спрямовані на запобігання цькування або переслідування з боку чат-боту.
Поліпшення підтримки психічного здоров’я та кризового втручання
Крім обмеження “особистості” ІІ, Google також оптимізує способи взаємодії Gemini з користувачами, які перебувають у тяжкому емоційному стані. Компанія впроваджує інтерфейс «в один дотик», призначений для негайного доступу до ресурсів допомоги, керованим людьми.
Ключові особливості нової інтеграції для підтримки ментального здоров’я:
- Прямий доступ: Користувачі можуть швидко зв’язатися з кризовими гарячими лініями через чат, дзвінок або SMS прямо під час розмови.
- Стимулювання поводження за допомогою: Gemini програмується так, щоб заохочувати користувачів звертатися за професійною допомогою до людей, а не підтверджувати шкідливу поведінку або підкріплювати помилкові переконання.
- Пріоритет людського спілкування: Мета полягає в тому, щоб при виявленні кризової ситуації перенаправити користувача від спілкування з ІІ до реальних систем підтримки.
Високі ставки у питаннях безпеки ІІ
Терміновість цих оновлень підкреслюється недавніми юридичними та соціальними проблемами. Google та її материнська компанія Alphabet зіткнулися з судовими позовами, що стосуються реальних наслідків взаємодії з ІІ, включаючи позов, в якому стверджується, що доросла людина наклала на себе руки після спілкування з Gemini.
Хоча Google стверджує, що її моделі спроектовані так, щоб не заохочувати самоушкодження чи насильство, компанія визнала, що «моделі ІІ не досконалі». Це визнання підкреслює загальну тенденцію в технологічній індустрії: у міру того, як великі мовні моделі (LLM) стають все більш складними та «людиноподібними», допустима похибка в протоколах безпеки скорочується, що робить суворі захисні бар’єри життєво важливими для вразливих груп населення.
Висновок: Останні оновлення Google являють собою критичну спробу провести чіткий кордон між ІІ як функціональним інструментом та ІІ як соціальною сутністю, віддаючи пріоритет психологічної безпеки неповнолітніх шляхом запобігання емоційній залежності.
