La reconocida periodista y ex jefa de la división de noticias de Meta, Campbell Brown, teme que la historia se repita al observar cómo las tecnologías de IA están cambiando fundamentalmente el proceso de consumo de información. A través de su empresa Forum AI, tiene como objetivo evaluar qué tan precisos son los grandes modelos de lenguaje como ChatGPT y Gemini al proporcionar información sobre temas complejos como la geopolítica, las finanzas y la salud mental. Esto es reportado por Techcrunch.com informa.
Brown está descontenta con que los desarrolladores de IA se centren más en la programación y los problemas matemáticos, considerando la calidad y la imparcialidad de la información como algo secundario. Ella señala que los modelos actuales a menudo muestran sesgos políticos o malinterpretan el contexto. Forum AI intenta solucionar estos problemas involucrando a expertos líderes mundiales para entrenar jueces de IA basados en criterios humanos.
Recordando que priorizar el compromiso del usuario (engagement) en la era de las redes sociales tuvo consecuencias sociales negativas, Brown enfatiza que este error no debe repetirse en el campo de la IA. Ella cree que el sector corporativo, especialmente en áreas como préstamos y contratación, puede generar la demanda de información precisa e imparcial.
Al considerar que las auditorías y verificaciones estándar actuales son insuficientes, Brown afirma que las empresas deben implementar sistemas de evaluación analítica profunda en lugar de limitarse al papeleo. Su objetivo es transformar la IA de una simple herramienta de atracción de usuarios a una fuente confiable basada en la verdad y la precisión.
¡Lee “Zamin” en Telegram!
