Home Internet e TI Por que competência e integridade são mais importantes do que simpatia em...

Por que competência e integridade são mais importantes do que simpatia em chatbots

0

“Olá! Como posso ajudá-lo?”

A conversa começa instantaneamente. Já estamos em profundo diálogo com uma máquina. Chatbots como o ChatGPT se instalaram em nossas rotinas diárias. Eles estão em lojas online. Eles cuidam do atendimento ao cliente. Eles até ajudam com o dever de casa. A pessoa do outro lado da tela raramente é mais humana. Esses assistentes virtuais são rápidos. Eles estão disponíveis 24 horas por dia, 7 dias por semana. Muitas vezes são encantadores. O que há alguns anos parecia um brinquedo técnico agora é um companheiro digital.

Mas esta mudança levanta uma questão premente. Quanto podemos confiar neles? Ou, mais importante, como deveríamos confiar neles? Para responder a isso, precisamos ver o que torna um chatbot confiável. Precisamos entender onde está a linha entre a tecnologia útil e a ilusão enganosa.

O Projeto Humano para Confiança

Como os chatbots muitas vezes servem como substitutos da interação humana, é útil saber como os humanos constroem confiança uns com os outros. A pesquisa sugere que três pilares principais definem a confiança interpessoal.

A primeira é a competência percebida. Confiamos em um especialista. Se um médico demonstra profundo conhecimento em sua área, nós ouvimos. Se eles parecem inseguros em seu próprio domínio, duvidamos deles.

Em segundo lugar está a integridade. Trata-se de consistência. A pessoa faz o que diz que fará? Eles são honestos? Eles seguem seus valores? Pessoas que alinham suas ações com suas palavras são vistas como confiáveis.

O terceiro é a benevolência. Essa é a sensação de que a outra parte pensa nos seus melhores interesses. Se você sente que alguém realmente se preocupa com o seu bem-estar, isso cria uma base para a confiança.

Quando confiamos nas máquinas

Surpreendentemente, estes mesmos três padrões humanos aplicam-se à nossa confiança na IA. Um estudo recente realizado por Fanny Lalot e Anna-Marie Betram, da Universidade de Basileia, testou esta hipótese. Os participantes avaliaram conversas entre usuários e um chatbot fictício. Eles foram convidados a imaginar que eles próprios estavam interagindo com a IA.

Os resultados foram claros. Para os usuários, competência e integridade foram os fatores dominantes na construção de confiança. Se o chatbot fosse experiente e honesto, os usuários se sentiriam seguros. A benevolência perdeu importância quando essas duas condições foram atendidas.

Esta descoberta desafia a ideia de que fazer uma IA parecer “legal” é a chave para a confiabilidade. O estudo mostrou que chatbots personalizados – aqueles que usam seu nome e fazem referência a conversas anteriores – não criaram níveis de confiança mais elevados do que os impessoais. Claro, um tom amigável e personalizado deixou os usuários mais dispostos a compartilhar dados pessoais ou usar a ferramenta. Aumentou o engajamento. Mas não aumentou a métrica central de confiança.

O perigo de muitos acordos

Por que os participantes valorizam tanto a integridade? É uma salvaguarda contra o isolamento. Se uma IA não for muito crítica, se concordar com tudo o que o usuário diz, ela cria uma câmara de eco digital. Isso pode ser perigoso. Pode reforçar ideias extremas ou imorais sem qualquer verificação da realidade.

“Esperamos que um amigo ou parceiro intervenha eventualmente se alguém estiver desenvolvendo ideias malucas ou imorais.”
— Fanny Lalot, Universidade de Basileia

Um amigo humano empurra de volta. Uma IA que carece de integridade, não. Ele simplesmente acena com a cabeça. Isso não é útil. Isso é capacitar.

O estudo também revelou uma mudança psicológica. Os participantes atribuíram competência, integridade e benevolência diretamente à IA, e não à empresa por trás dela. Eles percebem a IA como uma entidade autônoma. Esta projeção é significativa. Estamos tratando o código como um personagem.

Os limites da confiança nas máquinas

Isso nos leva a uma verdade desconfortável. Projetamos mais nos sistemas de IA do que realmente existe. A IA não tem moral. Não tem coração. Possui pesos, preconceitos e probabilidades.

Então, devemos confiar totalmente nos chatbots? Provavelmente não. São ferramentas, não oráculos. Eles são construídos com base em dados e algoritmos. Eles são falíveis.

Eles podem fornecer informações falsas ou desatualizadas. Eles podem interpretar mal o contexto. Os dados de treinamento geralmente contêm preconceitos humanos, o que significa que a IA pode gerar respostas discriminatórias involuntariamente. Há também a questão da privacidade. Os chatbots coletam grandes quantidades de dados pessoais. Se o provedor não for confiável, suas informações confidenciais estarão em risco.

Lalot defende uma postura neutra. Devemos ver os chatbots de IA de forma semelhante às redes sociais. Eles oferecem oportunidades, mas trazem riscos. Precisamos aprender a navegar nesse espaço.

“Nosso estudo não afirma se a confiança em um chatbot é boa ou ruim.”

Trata-se de utilidade. Trata-se de compreender a mecânica. Precisamos de chatbots confiáveis ​​que não mintam e que não validem cegamente cada entrada do usuário. Mas será que algum dia poderemos realmente saber se uma IA está se comportando de maneira ética? Provavelmente não.

Ficamos com uma escolha. Entregamos nosso julgamento a uma máquina que imita a compreensão? Ou usamos isso como uma ferramenta, mantendo intacto o nosso ceticismo? A linha está embaçada. A tecnologia avança rapidamente. E ainda estamos descobrindo como nos manter firmes nisso.

Exit mobile version