Pangram recauda 9 millones de dólares para combatir el contenido generado por IA

En un momento en que Internet se está inundando de datos generados por inteligencia artificial y de baja calidad, Pangram, una startup con sede en Nueva York, ha recaudado 9 millones de dólares en financiación para desarrollar nuevas herramientas destinadas a diferenciar entre textos humanos y de IA. Según ixbt.com y TechCrunch, esta ronda de financiación estuvo liderada por Menlo Ventures con la participación de Haystack, ScOp, Script Capital y Cadenza. Así lo informa Techcrunch.com informa .

Este logro financiero coincide con el lanzamiento por parte de la startup de su detector de textos Pangram 4 de próxima generación y de un modelo de detección de imágenes por IA llamado Pangram Image. La compañía afirma que su nuevo modelo de detección de texto puede identificar con una precisión superior al 99 % los materiales escritos por IA o creados en colaboración entre humanos y la IA. También puede desenmascarar fácilmente programas especiales que simulan la escritura humana.

Las amenazas de la IA y la historia detrás de la creación de la nueva startup

Pangram fue fundada hace dos años por Max Spero y Bradley Amy, graduados de la Universidad de Stanford. Tras el lanzamiento de ChatGPT, Internet se llenó de bots, contenido SEO generado por IA para engañar a los motores de búsqueda y diversas campañas de desinformación en la red. Precisamente estos problemas motivaron a los jóvenes especialistas a crear este servicio.

Según Max Spero, es de vital importancia que el lector sepa si el texto que se le presenta ha sido escrito por inteligencia artificial o no. En particular, comprender a qué fuente pertenece el texto leído cambia la perspectiva de las personas hacia él. Si el texto fue escrito con la ayuda de la inteligencia artificial, se debe tener en cuenta que existe una alta probabilidad de que contenga errores o información inventada.

Mecanismo de funcionamiento de la tecnología y planes futuros

El sistema Pangram es, en esencia, un modelo de aprendizaje automático a gran escala entrenado con decenas de millones de documentos humanos precisos. Para cada documento, la startup ha creado espejos sintéticos que imitan el tema, la longitud y el tono de voz, pero redactados por modelos de lenguaje avanzados. Como resultado, el modelo aprende las diferencias estilísticas y las decisiones de la IA, logrando determinar con alta precisión si un texto es producto de la inteligencia artificial.

La actividad de esta startup no se limita únicamente a encontrar textos totalmente escritos por inteligencia artificial. También puede diferenciar aquellos casos en los que se recibió ayuda parcial para la creación del texto, es decir, cuando el autor escribió el contenido por sí mismo y luego utilizó la IA para corregirlo. Según los expertos, el uso de la ayuda de la inteligencia artificial es aceptable, siempre y cuando el autor informe de ello abiertamente a los lectores.

Hoy en día, junto con el uso generalizado de las herramientas de inteligencia artificial, también están surgiendo sus consecuencias negativas. Mientras que algunos políticos se convierten en hazmerreír debido a los errores de la IA en sus discursos, algunos abogados se enfrentan a multas y sanciones debido a citas falsas generadas por ChatGPT. Situaciones como estas obligan no solo a los particulares, sino también a diversas instituciones, a implementar reglas y restricciones más estrictas sobre el contenido de la IA.