Kognitivní kapitulace: Většina lidí bere, co jim ChatGPT řekne

Stáhnout PDF

Sledujte nás na Telegramu: 👉  @cz24news

Chatboty dnes používá skoro každý a hodně lidí jim věří. Problém je v tom, že chatboti stále dělají až překvapivě velké množství závažných chyb. Vypadá to tak, že svěřujeme myšlení a důvěru někomu, kdo je dost problematický. Jako bychom kognitivně kapitulovali. Nejspíš nás čekají velmi zajímavé časy.

Trvalo to jen pár let a chatboti s generativní inteligencí se stali běžnou součástí našich životů. Je to okouzlující a současně hrozivé, protože chatboti rozhodně nejsou hladce fungující nástroje. Bez ohledu na to, že stále jsou blackboxem a vlastně nevíme, co přesně dělají, ChatGPT, Gemini, Claude a spolu s nimi všichni chatboti stále dělají chyby.

Podle nedávné studie v režii BBC i ti nejvíce pokročilí chatboti dělají přinejmenším jednu zásadní chybu ve 45 procentech všech odpovědí. Pro mnohé uživatele to ale není relevantní. Nedávno to zjistili Steven Shaw a Gideon Nave z University of Pennsylvania v sérii experimentů. Ukázalo se, že uživatelé mají sklon brát odpovědi z ChatGPT jako danou věc – i když jsou špatně.

Účastníci experimentů měli odpovídat na znalostní dotazy. Měli možnost použít ChatGPT, což udělala více než polovina z nich. V jednom z experimentů se 359 dobrovolníky se lidí řídili správnou radou umělé inteligence v 92,7 procentech případů, a také špatnou radou ve stále dost tučných 79,8 procentech případů.

Jak se zdá, lidé jsou až komicky ochotni věřit tomu, co jim chatbot říká. Shaw a Nave to poněkud mrazivě nazývají kognitivní kapitulace (cognitive surrender). Podle nich jsou lidé vlastně ochotní outsourcovat samotné myšlení. Řídí se tím, co jim chatbot řekne, i když to není správně, pokud to zní obstojně věrohodně a nevědí, že jde o chybu.

Může to být tím, že myšlení bolí a je energeticky nákladné, tak proč ho nesvěřit stroji? Když už za nás stroje počítají a posílají dopisy, po naší výpočetní a poštovní kapitulaci… Současně ale platí, že chatboti, i když to zní absurdně, jsou velmi přesvědčiví a lidem se s nimi podle všeho dobře povídá. Nejspíš odpadá stres z mezilidské interakce, která je mnohem náročnější než samotné myšlení, přinejmenším pro introverty.

Přílišná důvěra v chatboty ale může být i velice riziková, pokud by se operátoři chatbotů pokoušeli manipulovat jejich odpovědi a chování, s cílem nějakým způsobem ovlivnit uživatele. Což v dnešní době v žádném případě nelze vyloučit.

Video: Is AI Replacing Human Thinking? The Rise of „Cognitive Surrender“

ZDROJ: YouTube Knowledge at Wharton / Futurism / BBC / S.Mihulka/OselCZ

Upozornění: Tento článek je výlučně názorem jeho autora. Články, příspěvky a komentáře pod příspěvky se nemusí shodovat s postoji redakce cz24.news. Medicínské a lékařské texty, názory a studie v žádném případě nemají nahradit konzultace a vyšetření lékaři ve zdravotnickém zařízení nebo jinými odborníky.