OpenAI ha lanzado una nueva función llamada Trusted Contact que brinda asistencia cuando se detectan signos de depresión o riesgos de autolesión durante las interacciones con la IA. Este sistema permite a los usuarios designar personas de confianza que serán notificadas en caso de emergencia. Esto es informado por Ixbt.com informa .
El usuario puede seleccionar a un familiar mayor de 18 años y enviarle una invitación. Si el sistema detecta situaciones peligrosas en las conversaciones de ChatGPT, primero se advierte al usuario. Si el riesgo persiste, los moderadores de OpenAI evalúan la situación y, si se confirma, se envía una notificación al contacto de confianza por SMS o correo electrónico.
La empresa mantiene una estricta privacidad: no se comparte el historial ni los detalles de la conversación con el contacto de confianza. El mensaje solo contiene información general sobre la necesidad de contactar al usuario. El proceso de revisión por parte de los moderadores toma menos de una hora.
Esta función fue desarrollada en colaboración con expertos en salud mental. Es importante señalar que Trusted Contact no reemplaza a los médicos ni a los servicios de emergencia. ChatGPT seguirá dirigiendo a los usuarios a los recursos adecuados para obtener ayuda profesional.
¡Lee “Zamin” en Telegram!
