“Hallo! Hoe kan ik je helpen?”

Het gesprek begint meteen. We zijn al diep in dialoog met een machine. Chatbots zoals ChatGPT hebben zich in onze dagelijkse routines gevestigd. Ze staan ​​in online winkels. Zij verzorgen de klantenservice. Ze helpen zelfs met huiswerk. De persoon aan de andere kant van het scherm is zelden meer een mens. Deze virtuele assistenten zijn snel. Ze zijn 24/7 beschikbaar. Ze zijn vaak charmant. Wat een paar jaar geleden een technisch speeltje leek, is nu een digitale metgezel.

Maar deze verschuiving roept een prangende vraag op. In hoeverre kunnen we ze vertrouwen? Of nog belangrijker: hoe moeten we ze vertrouwen? Om dit te beantwoorden moeten we kijken naar wat een chatbot geloofwaardig maakt. We moeten begrijpen waar de grens ligt tussen behulpzame technologie en bedrieglijke illusie.

De menselijke blauwdruk voor vertrouwen

Omdat chatbots vaak dienen als vervanging voor menselijke interactie, helpt het om te weten hoe mensen vertrouwen met elkaar opbouwen. Uit onderzoek blijkt dat drie kernpijlers interpersoonlijk vertrouwen definiëren.

De eerste is waargenomen competentie. Wij vertrouwen op een specialist. Als een arts blijk geeft van diepgaande kennis op zijn vakgebied, luisteren wij. Als ze op hun eigen terrein onzeker lijken, twijfelen wij aan hen.

Op de tweede plaats staat integriteit. Dit gaat over consistentie. Doet de persoon wat hij zegt dat hij zal doen? Zijn ze eerlijk? Houden zij vast aan hun waarden? Mensen die hun daden afstemmen op hun woorden, worden als betrouwbaar gezien.

Ten derde is welwillendheid. Dit is het gevoel dat de andere partij het beste met u voor heeft. Als u het gevoel heeft dat iemand echt om uw welzijn geeft, schept dat een basis voor vertrouwen.

Als we machines vertrouwen

Verrassend genoeg zijn dezelfde drie menselijke normen van toepassing op ons vertrouwen in AI. Een recent onderzoek door Fanny Lalot en Anna-Marie Betram van de Universiteit van Basel testte deze hypothese. Deelnemers evalueerden gesprekken tussen gebruikers en een fictieve chatbot. Hen werd gevraagd zich voor te stellen dat ze zelf interactie hadden met de AI.

De resultaten waren duidelijk. Voor gebruikers waren competentie en integriteit de dominante factoren bij het opbouwen van vertrouwen. Als de chatbot deskundig en eerlijk was, voelden gebruikers zich veilig. Welwillendheid werd minder belangrijk zodra aan deze twee voorwaarden was voldaan.

Deze bevinding daagt het idee uit dat het ‘leuk’ laten voelen van een AI de sleutel tot betrouwbaarheid is. Uit het onderzoek bleek dat gepersonaliseerde chatbots – chatbots die je naam gebruiken en verwijzen naar eerdere gesprekken – geen hogere vertrouwensniveaus creëerden dan onpersoonlijke chatbots. Zeker, een vriendelijke, persoonlijke toon zorgde ervoor dat gebruikers meer bereid waren persoonlijke gegevens te delen of de tool te gebruiken. Het verhoogde de betrokkenheid. Maar het verhoogde de kernwaarde van vertrouwen niet.

Het gevaar van te veel overeenstemming

Waarom hechten deelnemers zo veel waarde aan integriteit? Het is een bescherming tegen isolement. Als een AI te onkritisch is, als hij het eens is met alles wat de gebruiker zegt, creëert hij een digitale echokamer. Dit kan gevaarlijk zijn. Het zou extreme of immorele ideeën kunnen versterken zonder enige realiteitscheck.

“Een vriend of partner zou hopelijk uiteindelijk ingrijpen als iemand gekke of immorele ideeën ontwikkelt.”
— Fanny Lalot, Universiteit van Bazel

Een menselijke vriend duwt terug. Een AI die niet integer is, doet dat niet. Het knikt eenvoudigweg. Dat is niet nuttig. Dat is mogelijk maken.

Het onderzoek bracht ook een psychologische verschuiving aan het licht. Deelnemers schreven competentie, integriteit en welwillendheid rechtstreeks toe aan de AI, niet aan het bedrijf erachter. Zij zien de AI als een autonome entiteit. Deze projectie is aanzienlijk. We behandelen code als een karakter.

De grenzen van machinevertrouwen

Dit brengt ons bij een ongemakkelijke waarheid. We projecteren meer in AI-systemen dan er daadwerkelijk zijn. De AI heeft geen moraal. Het heeft geen hart. Het heeft gewichten, vooroordelen en waarschijnlijkheden.

Moeten we chatbots dus volledig vertrouwen? Waarschijnlijk niet. Het zijn instrumenten, geen orakels. Ze zijn gebouwd op data en algoritmen. Ze zijn feilbaar.

Ze kunnen valse of verouderde informatie verstrekken. Ze kunnen de context verkeerd begrijpen. De trainingsdata bevatten vaak menselijke vooroordelen, waardoor de AI onbedoeld discriminerende reacties kan genereren. Er is ook de kwestie van de privacy. Chatbots verzamelen enorme hoeveelheden persoonlijke gegevens. Als de aanbieder niet betrouwbaar is, loopt uw ​​gevoelige informatie gevaar.

Lalot pleit voor een neutrale houding. We moeten AI-chatbots op dezelfde manier bekijken als sociale media. Ze bieden kansen, maar brengen ook risico’s met zich mee. We moeten leren navigeren door die ruimte.

“Ons onderzoek doet geen uitspraak over de vraag of vertrouwen in een chatbot goed of slecht is.”

Het gaat om nut. Het gaat om het begrijpen van de mechanismen. We hebben betrouwbare chatbots nodig die niet liegen en die niet blindelings elke gebruikersinvoer valideren. Maar kunnen we ooit echt weten of een AI zich ethisch gedraagt? Waarschijnlijk niet.

Er blijft een keuze over. Geven we ons oordeel over aan een machine die begrip nabootst? Of gebruiken we het als een instrument, waarbij we ons eigen scepticisme intact houden? De lijn is wazig. De technologie gaat snel. En we zijn nog steeds aan het uitzoeken hoe we erop moeten staan.