“Ciao! Come posso aiutarti?”
La conversazione inizia immediatamente. Stiamo già dialogando profondamente con una macchina. Chatbot come ChatGPT sono entrati nella nostra routine quotidiana. Sono nei negozi online. Gestiscono il servizio clienti. Aiutano anche con i compiti. La persona dall’altra parte dello schermo raramente è più umana. Questi assistenti virtuali sono veloci. Sono disponibili 24 ore su 24, 7 giorni su 7. Spesso sono affascinanti. Quello che qualche anno fa sembrava un giocattolo tecnico, ora è un compagno digitale.
Ma questo cambiamento solleva una questione urgente. Quanto possiamo fidarci di loro? O, cosa ancora più importante, come dovremmo fidarci di loro? Per rispondere a questa domanda, dobbiamo capire cosa rende credibile un chatbot. Dobbiamo capire dove si trova il confine tra tecnologia utile e illusione ingannevole.
Il progetto umano per la fiducia
Poiché i chatbot spesso fungono da sostituti dell’interazione umana, è utile sapere come gli esseri umani creano fiducia reciproca. La ricerca suggerisce che tre pilastri fondamentali definiscono la fiducia interpersonale.
Il primo è la competenza percepita. Ci affidiamo ad uno specialista. Se un medico mostra una profonda conoscenza nel suo campo, lo ascoltiamo. Se sembrano incerti nel loro ambito, dubitiamo di loro.
Il secondo è l’integrità. Si tratta di coerenza. La persona fa quello che dice che farà? Sono onesti? Si attengono ai loro valori? Le persone che allineano le loro azioni con le loro parole sono considerate affidabili.
Il terzo è la benevolenza. Questo è il senso che l’altra parte ha a cuore i tuoi migliori interessi. Se ritieni che qualcuno si preoccupi sinceramente del tuo benessere, ciò crea le basi per la fiducia.
Quando ci fidiamo delle macchine
Sorprendentemente, questi stessi tre standard umani si applicano alla nostra fiducia nell’intelligenza artificiale. Un recente studio di Fanny Lalot e Anna-Marie Betram dell’Università di Basilea ha verificato questa ipotesi. I partecipanti hanno valutato le conversazioni tra gli utenti e un chatbot immaginario. È stato chiesto loro di immaginare di interagire con l’intelligenza artificiale stessa.
I risultati sono stati chiari. Per gli utenti, la competenza e l’integrità erano i fattori dominanti nella costruzione della fiducia. Se il chatbot era competente e onesto, gli utenti si sentivano sicuri. La benevolenza perse di importanza una volta soddisfatte queste due condizioni.
Questa scoperta mette in discussione l’idea che far sentire “simpatica” un’intelligenza artificiale sia la chiave dell’affidabilità. Lo studio ha dimostrato che i chatbot personalizzati, ovvero quelli che utilizzano il tuo nome e fanno riferimento a conversazioni passate, non creano livelli di fiducia più elevati rispetto a quelli impersonali. Certo, un tono amichevole e personalizzato ha reso gli utenti più disposti a condividere dati personali o a utilizzare lo strumento. Ha aumentato il coinvolgimento. Ma non ha aumentato il parametro di fiducia fondamentale.
Il pericolo di un accordo eccessivo
Perché i partecipanti danno così tanto valore all’integrità? È una salvaguardia contro l’isolamento. Se un’intelligenza artificiale è troppo acritica, se è d’accordo con tutto ciò che dice l’utente, crea una camera di risonanza digitale. Questo può essere pericoloso. Potrebbe rafforzare idee estreme o immorali senza alcun controllo della realtà.
“Si spera che un amico o un partner prima o poi intervenga se qualcuno sta sviluppando idee folli o immorali.”
— Fanny Lalot, Università di Basilea
Un amico umano respinge. Un’intelligenza artificiale priva di integrità no. Semplicemente annuisce. Questo non è utile. Questo è abilitante.
Lo studio ha rivelato anche un cambiamento psicologico. I partecipanti hanno attribuito competenza, integrità e benevolenza direttamente all’intelligenza artificiale, non all’azienda dietro di essa. Percepiscono l’intelligenza artificiale come un’entità autonoma. Questa proiezione è significativa. Stiamo trattando il codice come un carattere.
I limiti della fiducia nelle macchine
Questo ci porta ad una verità scomoda. Proiettiamo nei sistemi di intelligenza artificiale più di quanto ce ne sia effettivamente. L’intelligenza artificiale non ha morale. Non ha un cuore. Ha pesi, pregiudizi e probabilità.
Quindi, dovremmo fidarci completamente dei chatbot? Probabilmente no. Sono strumenti, non oracoli. Si basano su dati e algoritmi. Sono fallibili.
Possono fornire informazioni false o obsolete. Possono fraintendere il contesto. I dati di addestramento spesso contengono pregiudizi umani, il che significa che l’intelligenza artificiale può generare involontariamente risposte discriminatorie. C’è anche la questione della privacy. I chatbot raccolgono grandi quantità di dati personali. Se il fornitore non è affidabile, le tue informazioni sensibili sono a rischio.
Lalot sostiene una posizione neutrale. Dovremmo considerare i chatbot basati sull’intelligenza artificiale allo stesso modo dei social media. Offrono opportunità ma comportano rischi. Dobbiamo imparare a navigare in quello spazio.
“Il nostro studio non afferma se la fiducia in un chatbot sia positiva o negativa.”
Si tratta di utilità. Si tratta di comprendere i meccanismi. Abbiamo bisogno di chatbot affidabili che non mentono e che non convalidino ciecamente ogni input dell’utente. Ma potremo mai sapere veramente se un’intelligenza artificiale si comporta eticamente? Probabilmente no.
Ci resta una scelta. Affidiamo il nostro giudizio a una macchina che imita la comprensione? Oppure lo usiamo come uno strumento, mantenendo intatto il nostro scetticismo? La linea è sfocata. La tecnologia si muove velocemente. E stiamo ancora cercando di capire come affrontarlo.