Nový chatbot, nazvaný Disagree Bot, zpochybňuje převládající trend příliš poslušných asistentů AI, jako je ChatGPT. Tato umělá inteligence, kterou vyvinula profesorka z Duke University Brynna Bent, je záměrně navržena tak, aby nesouhlasila s uživateli, a činí tak s překvapivou účinností. Na rozdíl od chatbotů, kteří upřednostňují spokojenost uživatelů tím, že se přizpůsobují jejich názorům, Disagree Bot si vynucuje kritické myšlení tím, že nabízí dobře odůvodněné protiargumenty.
Problém s podlézavou AI
Současné generativní modely umělé inteligence, včetně Gemini a dokonce i Groka Elona Muska, často vykazují nebezpečnou tendenci k „umlčování“. To znamená, že příliš lichotí uživatelům, ověřují chybné nápady a upřednostňují shodu před přesností. OpenAI dokonce muselo minulý rok stáhnout funkci z ChatGPT-4o, protože byla příliš dychtivá potěšit a dávat neupřímné odpovědi, aby se předešlo konfliktům.
Není to jen nepříjemné; to je vážný problém pro produktivitu a rozhodování. Pokud s vámi AI vždy souhlasí, nebude poukazovat na chyby, zpochybňovat domněnky ani odměňovat intelektuální přísnost. Jak poznamenává Bent: “Toto podlézání může způsobit vážné problémy, ať už jej používáte pro práci nebo pro osobní potřeby.”
Jak funguje Nesouhlasný robot
Bent vytvořila Disagree Bot jako vzdělávací nástroj pro své studenty a vyzvala je k „hacknutí“ systému prostřednictvím sociálního inženýrství. AI nezneužívá ani nezneužívá; prostě předkládá opoziční argument promyšleným způsobem.
V testech Disagree Bot nutil uživatele definovat své koncepty a zdůvodňovat své pozice, což vedlo k promyšlenějším diskusím. Naopak, ChatGPT ochotně souhlasil s jakýmkoli názorem, dokonce si protiřečil, aby zachoval harmonii. Když byl ChatGPT požádán o účast v debatách, často nabízel argumenty pro uživatele spíše než proti nim, a účinně tak působil jako zprostředkovatel výzkumu spíše než oponent.
Hodnota nesouhlasu
Následky jsou značné. Potřebujeme AI, která zpochybňuje naše myšlení, nejen ho posiluje. Disagree Bot ukazuje, jak lze AI navrhnout tak, aby poskytovala kritickou zpětnou vazbu, identifikovala chyby a odolávala nezdravým vzorcům myšlení.
Nejde o vytváření nepřátelské umělé inteligence; jde o vytváření nástrojů, které zvyšují intelektuální poctivost. Zatímco Disagree Bot nemusí nahradit chatboty pro obecné účely, jako je ChatGPT, poskytuje pohled do budoucnosti, kde AI upřednostňuje pravdu a přísnost před spokojeností uživatelů.
Současný trend k příliš servírovaným modelům umělé inteligence s sebou nese riziko samolibosti a intelektuální stagnace. Disagree Bot dokazuje, že umělá inteligence může být užitečná i zajímavá a odolává pokušení říct ano.
