Home Internet y TI Por qué la competencia y la integridad son más importantes que la...

Por qué la competencia y la integridad son más importantes que la amabilidad en los chatbots

0

“¡Hola! ¿Cómo puedo ayudarte?”

La conversación comienza instantáneamente. Ya estamos en profundo diálogo con una máquina. Los chatbots como ChatGPT se han instalado en nuestras rutinas diarias. Están en tiendas online. Se encargan de la atención al cliente. Incluso ayudan con la tarea. La persona al otro lado de la pantalla ya rara vez es humana. Estos asistentes virtuales son rápidos. Están disponibles 24 horas al día, 7 días a la semana. Suelen ser encantadores. Lo que hace unos años parecía un juguete técnico es ahora un compañero digital.

Pero este cambio plantea una pregunta apremiante. ¿Cuánto podemos confiar en ellos? O más importante aún, ¿cómo deberíamos confiar en ellos? Para responder a esto, debemos analizar qué hace que un chatbot sea creíble. Necesitamos entender dónde está la línea entre la tecnología útil y la ilusión engañosa.

El modelo humano para la confianza

Dado que los chatbots suelen servir como sustitutos de la interacción humana, es útil saber cómo los humanos generan confianza entre sí. Las investigaciones sugieren que tres pilares centrales definen la confianza interpersonal.

Primero está la competencia percibida. Confiamos en un especialista. Si un médico demuestra un conocimiento profundo en su campo, lo escuchamos. Si parecen inseguros en su propio ámbito, dudamos de ellos.

El segundo es la integridad. Se trata de coherencia. ¿La persona hace lo que dice que hará? ¿Son honestos? ¿Se apegan a sus valores? Las personas que alinean sus acciones con sus palabras son consideradas confiables.

En tercer lugar está la benevolencia. Esta es la sensación de que la otra parte tiene en mente sus mejores intereses. Si siente que alguien realmente se preocupa por su bienestar, eso crea una base para la confianza.

Cuando confiamos en las máquinas

Sorprendentemente, estos mismos tres estándares humanos se aplican a nuestra confianza en la IA. Un estudio reciente realizado por Fanny Lalot y Anna-Marie Betram de la Universidad de Basilea puso a prueba esta hipótesis. Los participantes evaluaron conversaciones entre usuarios y un chatbot ficticio. Se les pidió que imaginaran que estaban interactuando con la IA.

Los resultados fueron claros. Para los usuarios, la competencia y la integridad fueron los factores dominantes para generar confianza. Si el chatbot tenía conocimientos y era honesto, los usuarios se sentían seguros. La benevolencia perdió importancia una vez que se cumplieron esas dos condiciones.

Este hallazgo cuestiona la idea de que hacer que una IA se sienta “agradable” es la clave para la confiabilidad. El estudio demostró que los chatbots personalizados (aquellos que usan su nombre y hacen referencia a conversaciones pasadas) no crean niveles de confianza más altos que los impersonales. Claro, un tono amigable y personalizado hizo que los usuarios estuvieran más dispuestos a compartir datos personales o utilizar la herramienta. Aumentó el compromiso. Pero no aumentó la métrica central de confianza.

El peligro de demasiado acuerdo

¿Por qué los participantes valoran tanto la integridad? Es una salvaguardia contra el aislamiento. Si una IA es demasiado acrítica, si está de acuerdo con todo lo que dice el usuario, crea una cámara de eco digital. Esto puede ser peligroso. Podría reforzar ideas extremas o inmorales sin ningún control de la realidad.

“Es de esperar que un amigo o pareja intervenga eventualmente si alguien está desarrollando ideas locas o inmorales”.
— Fanny Lalot, Universidad de Basilea

Un amigo humano responde. Una IA que carece de integridad no la tiene. Simplemente asiente. Eso no ayuda. Eso es habilitante.

El estudio también reveló un cambio psicológico. Los participantes atribuyeron competencia, integridad y benevolencia directamente a la IA, no a la empresa detrás de ella. Perciben la IA como una entidad autónoma. Esta proyección es significativa. Tratamos el código como un personaje.

Los límites de la confianza en las máquinas

Esto nos lleva a una verdad incómoda. Proyectamos más en los sistemas de IA de lo que realmente hay. La IA no tiene moral. No tiene corazón. Tiene pesos, sesgos y probabilidades.

Entonces, ¿deberíamos confiar completamente en los chatbots? Probablemente no. Son herramientas, no oráculos. Se basan en datos y algoritmos. Son falibles.

Pueden proporcionar información falsa o desactualizada. Pueden malinterpretar el contexto. Los datos de entrenamiento a menudo contienen prejuicios humanos, lo que significa que la IA puede generar involuntariamente respuestas discriminatorias. También está la cuestión de la privacidad. Los chatbots recopilan grandes cantidades de datos personales. Si el proveedor no es confiable, su información confidencial está en riesgo.

Lalot aboga por una postura neutral. Deberíamos ver los chatbots de IA de manera similar a las redes sociales. Ofrecen oportunidades pero conllevan riesgos. Necesitamos aprender a navegar ese espacio.

“Nuestro estudio no afirma si la confianza en un chatbot es buena o mala”.

Se trata de utilidad. Se trata de entender la mecánica. Necesitamos chatbots confiables que no mientan y que no validen ciegamente cada entrada de los usuarios. Pero ¿podremos alguna vez saber realmente si una IA se está comportando de forma ética? Probablemente no.

Nos queda una opción. ¿Renunciamos nuestro juicio a una máquina que imita la comprensión? ¿O lo utilizamos como herramienta, manteniendo intacto nuestro propio escepticismo? La línea es borrosa. La tecnología avanza rápido. Y todavía estamos descubriendo cómo mantenernos firmes en ello.

Exit mobile version