Невпинне прагнення індустрії технологій надати штучному інтелекту більш «людський» вигляд — це не просто маркетинговий хід, а принципово оманлива практика з далекосяжними наслідками. Компанії все частіше описують моделі штучного інтелекту так, ніби вони мислять, планують або навіть мають душу — терміни, які активно спотворюють суспільне розуміння технології, і без того затьмарене непрозорістю. Ця тенденція не є нешкідливою: вона підриває раціональний дискурс у той час, коли ясність щодо можливостей і обмежень ШІ є критичною.
Проблема антропоморфізму
Гуманізація штучного інтелекту — надання нелюдським об’єктам людських якостей — створює помилкове відчуття розуміння та довіри. Наприклад, нещодавно OpenAI представив експерименти, під час яких його моделі «визнавали» помилки, наче штучний інтелект самовідображався. Ця мова передбачає психологічний вимір, де його немає. Реальність набагато простіша: ШІ генерує результати на основі статистичних моделей, отриманих із величезних наборів даних. Немає ні свідомості, ні наміру, ні моралі.
Це не просто семантика. Мова, яку ми використовуємо для опису ШІ, безпосередньо впливає на те, як ми з ним взаємодіємо. Все більше людей звертаються до чат-ботів штучного інтелекту для отримання медичної, фінансової та емоційної допомоги, вбачаючи в них заміну кваліфікованим фахівцям або справжнім людським стосункам. Ця недоречна довіра має реальні наслідки, оскільки люди покладаються на відповіді, згенеровані штучним інтелектом, не усвідомлюючи властивих їм обмежень.
Ілюзія свідомості та чому це важливо
Основна проблема полягає в тому, що системи ШІ не є свідомими. У них немає почуттів, мотивів чи моралі. Чат-бот не «зізнається», тому що відчуває потребу бути чесним; він генерує текст на основі своїх навчальних даних. Однак такі компанії, як Anthropic, продовжують використовувати провокаційну мову – навіть поширюючи внутрішні документи про «душу» моделі – що неминуче просочується в публічний дискурс. Ця мова завищує очікування, породжує непотрібні страхи та відволікає від реальних проблем, таких як упередженість у наборах даних, зловмисне використання та концентрація влади в руках кількох технологічних гігантів.
Розглянемо дослідження OpenAI про «хитрість» ШІ, де оманливі відповіді змусили деяких повірити, що моделі навмисно приховували свої можливості. У самому звіті ці дії пояснюються тенденціями в навчальних даних і підказками, а не зловмисними намірами. Однак використання слова «хитрість» перевело розмову в бік побоювання ШІ як хитрого агента. Це неправильне тлумачення підкреслює силу мови у формуванні сприйняття.
Як правильно говорити про ШІ
Нам потрібно відмовитися від антропоморфної мови та прийняти точні технічні терміни. Замість «душі» використовуйте «модельну архітектуру» або «параметри навчання». Замість «зізнання» назвіть це «звіт про помилку» або «перевірка внутрішньої відповідності». Замість «трюку» опишіть «процес оптимізації» моделі.
Такі терміни, як «тенденції», «результати», «сприйняття» та «динаміка навчання», можуть не мати драматизму, але вони ґрунтуються на реальності. У статті «Про небезпеку стохастичних папуг» за 2021 рік правильно вказано, що системи штучного інтелекту, навчені відтворювати людську мову, неминуче відображатимуть її — наш словниковий запас, синтаксис і тон. Це наслідування не означає розуміння; це просто означає, що модель працює за призначенням.
Суть Питання
Компанії штучного інтелекту отримують вигоду від того, що магістри права виглядають більш здібними та гуманними, ніж вони є насправді. Щоб завоювати справжню довіру, вони повинні припинити ставитися до мовних шаблонів як до містичних створінь. Реальність проста: ми, люди, маємо почуття. Наша мова повинна це відображати, а не закривати. Майбутнє штучного інтелекту залежить від чіткого, чесного спілкування, а не спокусливих ілюзій.
