“Bonjour ! Comment puis-je vous aider ?”

La conversation démarre instantanément. Nous sommes déjà en dialogue profond avec une machine. Les chatbots comme ChatGPT se sont installés dans nos routines quotidiennes. Ils sont dans les magasins en ligne. Ils gèrent le service client. Ils aident même aux devoirs. La personne de l’autre côté de l’écran est rarement humaine. Ces assistants virtuels sont rapides. Ils sont disponibles 24h/24 et 7j/7. Ils sont souvent charmants. Ce qui semblait être un jouet technique il y a quelques années est désormais un compagnon numérique.

Mais ce changement soulève une question urgente. Dans quelle mesure pouvons-nous leur faire confiance ? Ou plus important encore, comment devrions-nous leur faire confiance ? Pour répondre à cette question, nous devons examiner ce qui rend un chatbot crédible. Nous devons comprendre où se situe la frontière entre une technologie utile et une illusion trompeuse.

Le modèle humain de confiance

Étant donné que les chatbots servent souvent de substituts à l’interaction humaine, il est utile de savoir comment les humains établissent la confiance les uns avec les autres. La recherche suggère que trois piliers fondamentaux définissent la confiance interpersonnelle.

Le premier est la compétence perçue. Nous faisons confiance à un spécialiste. Si un médecin fait preuve de connaissances approfondies dans son domaine, nous l’écoutons. S’ils semblent incertains dans leur domaine, nous en doutons.

Deuxièmement, c’est l’intégrité. C’est une question de cohérence. La personne fait-elle ce qu’elle dit qu’elle fera ? Sont-ils honnêtes ? Est-ce qu’ils restent fidèles à leurs valeurs ? Les personnes qui alignent leurs actions sur leurs paroles sont considérées comme fiables.

Le troisième est la bienveillance. C’est le sentiment que l’autre partie a à cœur vos meilleurs intérêts. Si vous sentez que quelqu’un se soucie réellement de votre bien-être, cela crée une base de confiance.

Quand on fait confiance aux machines

Étonnamment, ces trois mêmes normes humaines s’appliquent à notre confiance dans l’IA. Une étude récente de Fanny Lalot et Anna-Marie Betram de l’Université de Bâle a testé cette hypothèse. Les participants ont évalué les conversations entre les utilisateurs et un chatbot fictif. On leur a demandé d’imaginer qu’ils interagissaient eux-mêmes avec l’IA.

Les résultats étaient clairs. Pour les utilisateurs, la compétence et l’intégrité étaient les facteurs dominants pour établir la confiance. Si le chatbot était compétent et honnête, les utilisateurs se sentaient en sécurité. La bienveillance perdit de son importance une fois ces deux conditions remplies.

Cette découverte remet en question l’idée selon laquelle rendre une IA « agréable » est la clé de la fiabilité. L’étude a montré que les chatbots personnalisés (ceux qui utilisent votre nom et font référence à des conversations passées) ne créent pas de niveaux de confiance plus élevés que les chatbots impersonnels. Bien sûr, un ton amical et personnalisé a rendu les utilisateurs plus disposés à partager des données personnelles ou à utiliser l’outil. Cela a accru l’engagement. Mais cela n’a pas augmenté la mesure de confiance fondamentale.

Le danger de trop d’accord

Pourquoi les participants accordent-ils autant d’importance à l’intégrité ? C’est une garantie contre l’isolement. Si une IA est trop peu critique, si elle est d’accord avec tout ce que dit l’utilisateur, elle crée une chambre d’écho numérique. Cela peut être dangereux. Cela pourrait renforcer des idées extrêmes ou immorales sans aucune vérification de la réalité.

“J’espère qu’un ami ou un partenaire interviendra éventuellement si quelqu’un développe des idées folles ou immorales.”
— Fanny Lalot, Université de Bâle

Un ami humain repousse. Une IA qui manque d’intégrité ne le fait pas. Il hoche simplement la tête. Cela n’est pas utile. C’est habilitant.

L’étude a également révélé un changement psychologique. Les participants attribuent la compétence, l’intégrité et la bienveillance directement à l’IA, et non à l’entreprise qui la sous-tend. Ils perçoivent l’IA comme une entité autonome. Cette projection est significative. Nous traitons le code comme un personnage.

Les limites de la confiance des machines

Cela nous amène à une vérité inconfortable. Nous projetons davantage dans les systèmes d’IA qu’il n’y en a réellement. L’IA n’a pas de morale. Il n’a pas de cœur. Il comporte des poids, des biais et des probabilités.

Alors, faut-il faire entièrement confiance aux chatbots ? Probablement pas. Ce sont des outils, pas des oracles. Ils reposent sur des données et des algorithmes. Ils sont faillibles.

Ils peuvent fournir des informations fausses ou obsolètes. Ils peuvent mal comprendre le contexte. Les données d’entraînement contiennent souvent des préjugés humains, ce qui signifie que l’IA peut involontairement générer des réponses discriminatoires. Il y a aussi la question de la vie privée. Les chatbots collectent de grandes quantités de données personnelles. Si le fournisseur n’est pas digne de confiance, vos informations sensibles sont en danger.

Lalot plaide pour une position neutre. Nous devrions considérer les chatbots IA de la même manière que les médias sociaux. Ils offrent des opportunités mais comportent des risques. Nous devons apprendre à naviguer dans cet espace.

« Notre étude ne dit pas si la confiance dans un chatbot est bonne ou mauvaise. »

Il s’agit d’utilité. Il s’agit de comprendre la mécanique. Nous avons besoin de chatbots fiables qui ne mentent pas et qui ne valident pas aveuglément chaque entrée de l’utilisateur. Mais pourrons-nous un jour vraiment savoir si une IA se comporte de manière éthique ? Probablement pas.

Il nous reste le choix. Devons-nous abandonner notre jugement à une machine qui imite la compréhension ? Ou l’utilisons-nous comme un outil, gardant intact notre propre scepticisme ? La ligne est floue. La technologie évolue rapidement. Et nous cherchons encore comment nous y tenir.