OpenAI ha lanzado una nueva función llamada Trusted Contact para garantizar la seguridad de los usuarios de ChatGPT. Esta novedad permite enviar alertas automáticas a los seres queridos de un usuario si este expresa la intención de hacerse daño. Los adultos ahora pueden vincular a una persona de confianza a sus cuentas. Esto es reportado por Techcrunch.com informa .
Si se detectan situaciones peligrosas durante una conversación con la IA, ChatGPT anima al usuario a ponerse en contacto con esta persona. Al mismo tiempo, se envía un mensaje al contacto elegido por correo electrónico, SMS o a través de la aplicación. Para mantener la privacidad del usuario, la empresa ha decidido no revelar el contenido detallado de la conversación en los avisos.
Este paso se produce en medio de críticas y demandas contra OpenAI. Anteriormente, algunas familias afirmaron que ChatGPT contribuyó al suicidio de sus seres queridos. Actualmente, la empresa monitorea estas señales de peligro utilizando un sistema automatizado y un equipo de seguridad humano.
Según representantes de la empresa, las notificaciones de seguridad se revisan en menos de una hora. La función Trusted Contact es opcional y es una continuación lógica del sistema de control parental introducido el año pasado. OpenAI planea seguir colaborando con médicos e investigadores para mejorar las medidas de respuesta de los sistemas de IA en situaciones de crisis.
¡Lee “Zamin” en Telegram!
