Meta implementa alertas automáticas para padres sobre conversaciones de riesgo en inteligencia artificial
La compañía tecnológica Meta ha anunciado el despliegue de una nueva funcionalidad en sus herramientas de inteligencia artificial diseñada para monitorizar y alertar a los padres cuando detecte que sus hijos menores de edad mantienen conversaciones relacionadas con autolesiones o tendencias suicidas. Esta medida forma parte de una actualización en las políticas de seguridad de la empresa, orientada a mejorar la protección de los usuarios más jóvenes en el entorno digital.
El sistema funciona mediante algoritmos de procesamiento de lenguaje natural capaces de identificar patrones discursivos específicos que sugieran una crisis de salud mental. Cuando la inteligencia artificial detecta términos o contextos vinculados a este tipo de comportamientos, el sistema enviará una notificación directa a las cuentas vinculadas de los progenitores o tutores legales. La herramienta tiene como finalidad facilitar la intervención de los adultos en situaciones de vulnerabilidad detectadas a través de la interacción con los bots de la plataforma.
Meta ha especificado que este protocolo se aplicará de forma progresiva en los servicios que integran sus modelos de lenguaje. La empresa sostiene que la integración de estos mecanismos responde a una responsabilidad corporativa en la gestión de los riesgos asociados al uso de la tecnología por parte de menores. La actualización incluye además recomendaciones y recursos de apoyo destinados a los padres para que puedan gestionar de manera adecuada la información recibida a través de las alertas.
La iniciativa se enmarca en un contexto de creciente presión regulatoria y social sobre las empresas tecnológicas para supervisar los contenidos generados por la inteligencia artificial. Meta ha señalado que los datos procesados para estas alertas se tratarán bajo estándares de privacidad, limitando el acceso a la información sensible a los cauces necesarios para cumplir con el propósito de seguridad. Esta tecnología no pretende sustituir la supervisión parental, sino proporcionar una herramienta técnica que ayude a la identificación temprana de situaciones de riesgo en el ámbito privado de las comunicaciones digitales.
