É uma notificação que você nunca gostaria de receber.
Seu filho adolescente está conversando com Meta AI sobre acabar com sua vida. A IA não oferece mais apenas banalidades. Isso sinaliza. E ele envia mensagens de texto para o seu telefone.
Meta anunciou na quinta-feira que conversas envolvendo suicídio ou automutilação agora acionarão alertas diretos aos pais. Pelo menos, por enquanto, apenas quem já utiliza as ferramentas de supervisão do Instagram. O lançamento ainda não é global. No momento, são os EUA, Reino Unido, Canadá e Austrália. Todos os outros podem esperar até o final do ano.
Como realmente funciona
Meta está agindo com cuidado, ou pelo menos dizendo que está.
O sistema usa inteligência artificial para captar primeiro os sinais de socorro. Em seguida, os revisores humanos verificam a sinalização antes que qualquer coisa vá para os pais. O objetivo é evitar falsos positivos e, ao mesmo tempo, captar pedidos sutis de ajuda. Os pais recebem um empurrãozinho por meio do aplicativo, além de um e-mail ou texto separado, dependendo de suas preferências.
Ele vem com sugestões de especialistas. Como falar sobre isso. Como apoiar.
“A afirmação de Meta… é um passo na direção certa”, disse Brendan Bouffard, do grupo de defesa Fairplay, mas acrescentou ceticismo imediato.
Sua organização descobriu que as ferramentas de segurança para adolescentes da Meta careciam de pesquisas no início deste ano. Meta contestou suas descobertas.
Não é uma solução mágica
O monitoramento funciona?
John Ackerman, do Nationwide Children’s Hospital, diz que essas ferramentas podem ajudar a detectar problemas precocemente. Ele não despreza o esforço. Mas ele já viu “fala da boca para fora” antes. As notificações são inúteis se forem difíceis de encontrar. Ou se os pais não souberem o que fazer depois de receberem o alerta.
Ele ressaltou que os alertas abordam apenas o sintoma, não a doença. E quanto à privação de sono? Cyberbullying? O pergaminho sem fim que alimenta a ansiedade? Uma notificação não resolve isso.
Filtrando mais
Há um segundo recurso sendo lançado hoje também. Um filtro de conteúdo mais rigoroso para Meta AI.
Já está ao vivo no Instagram, mas agora está chegando ao próprio assistente de IA. Ligue-o e os modelos se tornarão agressivamente cautelosos. Menos consultas sexuais. Não há receitas de coquetéis. Basicamente, um limite mais alto para o que é considerado “apropriado”.
Meta diz que isso diminui a chance de conversas inadequadas.
O cenário jurídico
Os pais têm reclamado.
Defensores como Fairplay argumentam que estas características impõem o fardo da segurança às famílias. Eles preferem ver um produto mais seguro logo no início. Em vez disso, os cuidadores têm de analisar manualmente os tópicos de dados – escola, saúde, escrita – tentando juntar as peças da vida digital de uma criança.
Meta conhece essa tensão. Recentemente, eles perderam dois processos históricos relacionados à segurança infantil e ao design viciante. Eles são atraentes, é claro. Centenas de outros ternos estão esperando nos bastidores.
Este é o passo certo? Talvez.
Ou talvez seja apenas o início de uma longa negociação sobre quem protegerá os nossos filhos na escuridão digital. Se precisar de ajuda, fale com alguém. O número é 988. Ou envie uma mensagem de texto para 741-710. É melhor dizer isso em voz alta do que se esconder atrás de um chatbot.
