Pangram sichert sich 9 Millionen US-Dollar Investition zur Bekämpfung von KI-Inhalten

Zu einer Zeit, in der das Internet mit KI-generierten Daten von geringer Qualität überschwemmt wird, hat das in New York ansässige Startup Pangram 9 Millionen US-Dollar an Investitionen eingesammelt, um neue Tools zur Unterscheidung zwischen menschlichen und KI-Texten zu entwickeln. Berichten von ixbt.com und TechCrunch zufolge wurde diese Finanzierungsrunde von Menlo Ventures geleitet, unter Beteiligung von Haystack, ScOp, Script Capital und Cadenza. Das berichtet Techcrunch.com berichtet darüber.

Dieser finanzielle Erfolg fällt mit der Veröffentlichung des Textdetektors Pangram 4 der nächsten Generation und des KI-Bilderkennungsmodells Pangram Image durch das Startup zusammen. Das Unternehmen gibt an, dass das neue Texterkennungsmodell von KI geschriebene oder gemischte Materialien mit einer Genauigkeit von über 99 Prozent erkennen kann. Es kann auch spezielle Software leicht entlarven, die KI-Texte menschlich klingen lässt.

KI-Bedrohungen und die Entstehungsgeschichte des neuen Startups

Pangram wurde vor zwei Jahren von den Stanford-Absolventen Max Spero und Bradley Amy gegründet. Nach der Einführung von ChatGPT war das Internet überschwemmt mit Bots, KI-generierten SEO-Inhalten zur Täuschung von Suchmaschinen und verschiedenen Desinformationskampagnen. Genau diese Probleme motivierten die jungen Fachleute zur Entwicklung dieses Dienstes.

Laut Max Spero ist es von extrem hoher Bedeutung, dass Leser wissen, ob ein ihnen vorgelegter Text von einer KI verfasst wurde oder nicht. Insbesondere das Verständnis der Quelle des gelesenen Textes verändert die Herangehensweise der Menschen daran. Wenn ein Text von einer KI geschrieben wurde, muss man bedenken, dass die Wahrscheinlichkeit von Fehlern oder erfundenen Informationen hoch ist.

Funktionsweise der Technologie und Zukunftspläne

Das Pangram-System ist im Wesentlichen ein großes Modell für maschinelles Lernen, das auf Dutzenden Millionen echter menschlicher Dokumente trainiert wurde. Für jedes Dokument hat das Startup synthetische Spiegelungen erstellt, die Thema, Länge und Tonfall nachbilden, aber von fortgeschrittenen Sprachmodellen verfasst wurden. Infolgedessen lernt das Modell die stilistischen Unterschiede und Entscheidungen der KI und kann mit hoher Genauigkeit feststellen, ob ein Text ein KI-Produkt ist.

Die Aktivität des Startups beschränkt sich nicht nur auf das Finden vollständig von KI geschriebener Texte. Es kann auch Fälle unterscheiden, in denen bei der Erstellung teilweise Hilfe in Anspruch genommen wurde – das heißt, der Autor hat selbst geschrieben und dann KI für Korrekturen genutzt. Experten zufolge ist die Nutzung von KI-Hilfe akzeptabel, solange der Autor die Leser offen darüber informiert.

Heutzutage zeigen sich vor dem Hintergrund der breiten Nutzung von KI-Werkzeugen auch deren negative Folgen. Während einige Politiker in ihren Reden durch KI-Fehler der Lächerlichkeit preisgegeben werden, sehen sich einige Anwälte aufgrund gefälschter ChatGPT-Zitate mit Geldstrafen und Sanktionen konfrontiert. Solche Fälle zwingen nicht nur Einzelpersonen, sondern auch verschiedene Institutionen dazu, strengere Regeln und Einschränkungen für KI-Inhalte einzuführen.