Meta lanza un nuevo sistema para la seguridad de los adolescentes: IA bajo control
La corporación Meta ha anunciado una novedad importante para garantizar la seguridad de los adolescentes que utilizan su chatbot Meta AI. A partir de ahora, si un usuario menor de edad menciona autolesiones o suicidio durante una interacción con la IA, el sistema notificará inmediatamente a los padres. Este paso se produce en medio de críticas internacionales sobre el impacto de los gigantes tecnológicos en la salud mental de las generaciones jóvenes. Así lo informa Techcrunch.com informa .
Según los datos de la compañía, si se detectan señales de peligro en el comportamiento del adolescente, se enviará una notificación especial al panel de control destinado a los padres. Meta declaró haber desarrollado un modelo de IA específico para hacer este proceso más preciso. Este sistema se especializa en analizar el contenido de las conversaciones para identificar palabras clave peligrosas.
Factor humano y medidas de seguridad
Aunque el sistema está automatizado, Meta ha introducido una etapa de verificación adicional para evitar errores. Según el sitio Ixbt.com, todos los chats sospechosos marcados por la IA son revisados manualmente por expertos antes de ser enviados a los padres. Incluso si la intención del adolescente es ambigua, la empresa prefiere informar a los padres como medida de precaución.Actualmente, esta función está disponible para los usuarios de Instagram Parental Supervision en Estados Unidos, Reino Unido, Australia y Canadá. Para finales de año, se planea el despliegue gradual del sistema en todo el mundo, incluidos los usuarios en Uzbekistán. Esto permitirá a los usuarios locales hacer más seguras las interacciones digitales de sus hijos.
Ayuda de emergencia y restricciones de contenido
Meta no se limita a las advertencias y busca tomar medidas rápidas en situaciones de emergencia. Si se determina que la vida de un usuario (ya sea adolescente o adulto) está en peligro, la empresa también está mejorando el mecanismo para contactar a los servicios de rescate correspondientes. Esta práctica, que anteriormente se aplicaba a las publicaciones en Facebook e Instagram, ahora se extiende directamente a los chats de Meta AI.Además, las capacidades de Meta AI para adolescentes funcionan en modo restringido. El sistema se niega a discutir los siguientes temas:
- Conversaciones de carácter sexual o romántico;
- Discusiones sobre alcohol y otras sustancias nocivas;
- Contenidos que promueven la violencia.
Comentarios 0
…