Es una notificación que nunca querrás recibir.
Su adolescente está charlando con Meta AI sobre cómo acabar con su vida. La IA ya no ofrece sólo tópicos. Lo señala. Y envía un mensaje de texto a tu teléfono.
Meta anunció el jueves que las conversaciones que involucren suicidio o autolesión ahora activarán alertas directas a los padres. Al menos, por ahora, sólo aquellos que ya utilizan las herramientas de supervisión de Instagram. Sin embargo, el lanzamiento aún no es global. En este momento, son Estados Unidos, Reino Unido, Canadá y Australia. Todos los demás pueden esperar hasta fin de año.
Cómo funciona realmente
Meta está andando con cuidado, o al menos así lo dice.
El sistema utiliza inteligencia artificial para captar primero las señales de socorro. Luego, los revisores humanos verifican la bandera antes de que algo llegue a los padres. El objetivo es evitar falsos positivos y captar gritos sutiles de ayuda. Los padres reciben un empujón a través de la aplicación, además de un correo electrónico o un mensaje de texto por separado según sus preferencias.
Viene con sugerencias de expertos. Cómo hablar de ello. Cómo apoyar.
“La afirmación de Meta… es un paso en la dirección correcta”, dijo Brendan Bouffard del grupo de defensa Fairplay, pero añadió inmediatamente escepticismo.
Su organización encontró que las herramientas de seguridad para adolescentes de Meta carecían de investigación a principios de este año. Meta cuestionó sus hallazgos.
No es una solución milagrosa
¿Funciona el seguimiento?
El Dr. John Ackerman del Nationwide Children’s Hospital dice que estas herramientas pueden ayudar a detectar problemas a tiempo. No desdeña el esfuerzo. Pero ya ha visto “de labios para afuera” antes. Las notificaciones son inútiles si son difíciles de encontrar. O si los padres no saben qué hacer después de recibir la alerta.
Señaló que las alertas sólo abordan el síntoma, no la enfermedad. ¿Qué pasa con la falta de sueño? ¿Ciberacoso? ¿El pergamino interminable que alimenta la ansiedad? Una notificación no soluciona eso.
Filtrar más
Hoy también se lanza una segunda función. Un filtro de contenido más estricto para Meta AI.
Ya está disponible en Instagram, pero ahora llegará al propio asistente de IA. Enciéndelo y los modelos se vuelven agresivamente cautelosos. Menos consultas sexuales. No hay recetas de cócteles. Básicamente, un umbral más alto para lo que se considera “apropiado”.
Meta dice que esto reduce la posibilidad de conversaciones inapropiadas.
El contexto legal
Los padres se han quejado.
Defensores como Fairplay argumentan que estas características trasladan la carga de la seguridad a las familias. Preferirían ver un producto más seguro desde el principio. En cambio, los cuidadores tienen que examinar manualmente temas de datos (escuela, salud, escritura) tratando de reconstruir la vida digital de un niño.
Meta conoce esta tensión. Recientemente perdieron dos demandas históricas relacionadas con la seguridad infantil y el diseño adictivo. Son atractivos, por supuesto. Cientos de trajes más están esperando entre bastidores.
¿Es este el paso correcto? Tal vez.
O tal vez sea sólo el comienzo de una larga negociación sobre quién protegerá a nuestros hijos en la oscuridad digital. Si necesitas ayuda, habla con alguien. El número es 988. O envíe un mensaje de texto al 741-710. Es mejor decirlo en voz alta que esconderse detrás de un chatbot.
