“Dobrý den, jak vám mohu pomoci?”

Rozhovor začne okamžitě. Jsme již hluboce ponořeni do dialogu se strojem. Chatboti jako ChatGPT se stali součástí našeho každodenního života. Jsou dostupné v internetových obchodech. Obsluhují zákazníky. Dokonce pomáhají s domácími úkoly. Osoba na druhém konci obrazovky je už jen zřídka skutečná. Tito virtuální asistenti jsou rychlí. Jsou k dispozici 24/7. Často jsou okouzlující. To, co se před pár lety zdálo jako technologická zábava, se nyní stalo digitálním společníkem.

Tento posun však představuje naléhavou otázku. Jak moc jim můžeme věřit? Nebo, což je důležitější, jak jim máme věřit? Abychom na to odpověděli, musíme se podívat na to, co dělá chatbota důvěryhodným. Musíme pochopit, kde je hranice mezi užitečnou technologií a klamavou iluzí.

Lidský plán důvěry

Vzhledem k tomu, že chatboti často slouží jako náhrada lidské interakce, je užitečné vědět, jak si lidé mezi sebou budují důvěru. Výzkum ukazuje, že mezilidskou důvěru definují tři hlavní pilíře.

První je vnímaná kompetence. Věříme specialistovi. Pokud lékař prokáže hluboké znalosti ve svém oboru, nasloucháme. Pokud se zdá být ve své vlastní sféře nejistý, pochybujeme o něm.

Druhým je poctivost (bezúhonnost). Jde o konzistenci. Splní ten člověk, co slíbí? Je upřímný? Drží se svých hodnot? Lidé, jejichž činy odpovídají jejich slovům, jsou vnímáni jako důvěryhodní.

Třetí je benevolence. Je to pocit, že druhá strana má na mysli vaše nejlepší zájmy. Když máte pocit, že se někdo skutečně zajímá o vaše blaho, vytváří to základ pro důvěru.

Když věříme strojům

Na naši důvěru v AI se překvapivě vztahují stejné tři lidské standardy. Nedávná studie Fanny Lalo a Anne-Marie Betram z univerzity v Basileji tuto hypotézu testovala. Účastníci hodnotili konverzace mezi uživateli a fiktivním chatbotem. Byli požádáni, aby si představili, jak interagují s AI.

Výsledky byly jasné. Pro uživatele byly kompetence a poctivost dominantními faktory při budování důvěry. Pokud byl chatbot kompetentní a čestný, uživatelé se cítili bezpečně. Benevolence ztratila svůj význam, jakmile byly tyto dvě podmínky splněny.

Toto zjištění zpochybňuje myšlenku, že klíčem ke spolehlivosti je, aby se umělá inteligence cítila „líbivá“. Studie zjistila, že personalizovaní chatboti – ti, kteří používají vaše jméno a odkaz na minulé konverzace – nevytvářeli vyšší úroveň důvěry než ti neosobní. Přátelský, personalizovaný tón samozřejmě zvýšil ochotu uživatelů sdílet osobní údaje nebo používat tento nástroj. Zvýšilo to zapojení. Ale nezvýšilo to základní skóre důvěry.

Nebezpečí nadměrného souhlasu

Proč si účastníci tak vysoko cení upřímnosti? Toto je ochrana izolace. Pokud je AI příliš nekritická, pokud souhlasí se vším, co uživatel říká, vytvoří digitální echo komoru. Může to být nebezpečné. To může posílit extrémní nebo nemorální myšlenky bez jakékoli kontroly reality.

“Přítel nebo partner doufejme, že nakonec zasáhne, pokud někdo rozvíjí bláznivé nebo nemorální myšlenky.”
— Fanny Lalo, Univerzita v Basileji

Lidský přítel je proti. AI, která postrádá integritu, to nedělá. On jen přikývne. Tohle nepomůže. To je shovívavost.

Studie také odhalila psychologický posun. Účastníci připisovali kompetence, poctivost a benevolenci přímo AI, nikoli společnosti, která za ní stojí. Vnímají AI jako autonomní entitu. Tato projekce je významná. S kódem zacházíme jako se znakem.

Limity důvěry ke strojům

Tím se dostáváme k nepohodlné pravdě. Do systémů umělé inteligence promítáme více, než tam ve skutečnosti je. AI nemá žádnou morálku. Nemá srdce. Má váhy, odchylky a pravděpodobnosti.

Měli byste tedy chatbotům zcela důvěřovat? Pravděpodobně ne. To jsou nástroje, ne orákula. Jsou postaveny na datech a algoritmech. Jsou nedokonalí.

Mohou poskytovat nepravdivé nebo zastaralé informace. Mohou špatně chápat kontext. Tréninková data často obsahují lidské předsudky, což znamená, že umělá inteligence může neúmyslně generovat diskriminační reakce. Existuje také otázka ochrany osobních údajů. Chatboti shromažďují obrovské množství osobních údajů. Pokud je dodavatel nespolehlivý, vaše důvěrné informace jsou ohroženy.

Lalo zastává neutrální postoj. S AI chatboty bychom měli zacházet podobně jako se sociálními médii. Nabízejí příležitosti, ale nesou rizika. Musíme se naučit orientovat v tomto prostoru.

“Naše studie neobsahuje žádné prohlášení o tom, zda je důvěra chatbotů dobrá nebo špatná.”

Je to o utilitarismu. Jde o pochopení mechaniky. Potřebujeme spolehlivé chatboty, kteří nelžou a kteří slepě neověřují každý uživatelský vstup. Ale můžeme někdy skutečně vědět, zda se AI chová eticky? Pravděpodobně ne.

Zbývá nám výběr. Přeneseme svůj úsudek na stroj, který simuluje porozumění? Nebo ji používáme jako nástroj, udržujeme si vlastní skepticismus? Linka je rozmazaná. Technologie se rychle vyvíjí. A stále se snažíme přijít na to, jak se k tomu postavit.