KI-Fehler begrenzen: Pramaana Labs erhält 27 Millionen Dollar Investment

Während sich KI-Technologien weiterentwickeln, stehen große Unternehmen bei der Implementierung dieser Systeme in reale Geschäftsprozesse vor Zuverlässigkeitsproblemen. Um dieses Problem zu lösen, hat das Startup Pramaana Labs in einer von Khosla Ventures angeführten Finanzierungsrunde 27 Millionen Dollar eingesammelt. An dem Projekt beteiligten sich zudem renommierte Fonds wie Accel, Boldcap, Nexus Venture Partners, Premji Invest und Unbound. Dies berichtet Techcrunch.com Nachrichten berichtet.

Das Hauptziel von Pramaana Labs ist es, „Halluzinationen“ (das Erfinden falscher Informationen) und Fehler in Systemen zu eliminieren, indem KI mit mathematischer Präzision kombiniert wird. Laut TechCrunch wird das Startup das Kapital für die Entwicklung sicherer AI-Systeme in Bereichen einsetzen, in denen Fehler kostspielig sind, wie etwa in der Rechtsberatung, der Arzneimittelentwicklung und der Steuerberichterstattung.

Mathematische Präzision und deterministischer Ansatz

Obwohl die derzeit populären LLM (Large Language Models) durch ihre Flexibilität bestechen, liefern sie oft unlogische Ergebnisse. Pramaana Labs installiert eine spezielle deterministische Ebene (deterministic layer) über diesen Modellen. Diese Ebene basiert auf der Open-Source-Programmiersprache LEAN, die zur Verifizierung mathematischer Beweise verwendet wird, und kontrolliert die Antworten der KI auf Basis strikter Regeln.

Der Gründer und CEO des Unternehmens, Ranjan Rajagopalan, betonte, dass Steuergesetze oder rechtliche Normen ebenso strikte Regeln haben wie die Mathematik. „Wenn man eine kodierte Version dieser Regeln hat, dann sind die logischen Schlussfolgerungen präzise und unveränderlich“, sagt er. Dieser Ansatz stellt sicher, dass die Ergebnisse der KI rechtlich und wissenschaftlich korrekt sind, während die Fähigkeit zur freien Kommunikation erhalten bleibt.

Expertenaufsicht und Zukunftspläne

Pramaana Labs entwickelt für jeden Bereich separate Verifizierungssysteme im LEAN-Stil. Am Projekt sind einige der weltweit renommiertesten Experten beteiligt. So arbeitet beispielsweise Danny Werfel, ehemaliger Kommissar des US Internal Revenue Service (IRS), als Berater. Die Arbeiten in den Bereichen Cybersicherheit und Pharmazie werden von Professoren des IIT Delhi, IIT Madras und der UC Berkeley geleitet.

Auch unter den Bedingungen Usbekistans sind solche Verifizierungssysteme bei der Einführung von KI in staatliche Dienste, Steuer- und Banksysteme von großer Bedeutung. Da in finanziellen und rechtlichen Angelegenheiten selbst ein kleiner Fehler der AI schwerwiegende Folgen haben kann. Startups wie Pramaana Labs zielen genau darauf ab, diese Mauer des Misstrauens zu durchbrechen.

Laut Ranjan Rajagopalan sind die schwierigsten Probleme der Welt nicht unlösbar, sondern unsystematisiert. „In jedem Bereich, der die menschliche Gesundheit, das Vermögen oder die Freiheit betrifft, gibt es Regeln. Unsere Aufgabe ist es nun, diese Regeln in Code zu übersetzen“, schließt er. Diese Technologie wird es Unternehmen in Zukunft ermöglichen, KI nicht nur als Experiment, sondern als primäres Arbeitswerkzeug einzusetzen.