Ошибки искусственного интеллекта будут ограничены: Прамаана Лабс привлекла 27 миллионов долларов инвестиций

В то время как технологии искусственного интеллекта продолжают развиваться, крупные предприятия сталкиваются с проблемой надежности при внедрении этих систем в реальные бизнес-процессы. Стартап Прамаана Лабс, целью которого является решение данной проблемы, привлек 27 миллионов долларов в инвестиционном раунде под руководством Хосла Вентурес. В проекте также приняли участие такие престижные фонды, как Аккел, Болдкап, Нексус Вентуре Партнерс, Премджи Инвест и Унбунд. Об этом сообщает Techcrunch.ком сообщает издание.

Основная цель компании Прамаана Лабс — устранить «галлюцинации» (выдумывание неверной информации) и ошибки в системе путем объединения искусственного интеллекта с математической точностью. По данным TechCrunch, стартап направит полученные инвестиции на разработку безопасных АИ-систем для таких сфер, где ошибки обходятся дорого: юриспруденции, разработки лекарственных препаратов и налоговой отчетности.

Математическая точность и детерминированный подход

Хотя популярные сегодня LLM (большие языковые модели) отличаются своей гибкостью, они часто могут выдавать нелогичные результаты. Прамаана Лабс устанавливает над этими моделями специальный проверочный слой (детерминистик лаер). Этот слой основан на языке программирования ЛЭАН с открытым исходным кодом, который используется для проверки математических доказательств, и контролирует ответы искусственного интеллекта на основе строгих правил.

Основатель и генеральный директор компании Ранджан Раджагопалан подчеркнул, что налоговый кодекс или правовые нормы имеют такие же строгие правила, как и математика. «Если у вас есть закодированная версия этих правил, то логические выводы будут точными и неизменными», — говорит он. Такой подход позволяет сохранить способность искусственного интеллекта к свободному общению, обеспечивая при этом юридическую и научную корректность его результатов.

Контроль экспертов и планы на будущее

Прамаана Лабс создает отдельные системы проверки в стиле ЛЭАН для каждой отрасли. К проекту привлечены одни из самых авторитетных специалистов мира. Например, бывший комиссар Налогового управления США (ИРС) Даннй Верфел работает в качестве консультанта по налоговой системе. Работы в области кибербезопасности и фармацевтики курируют профессора университетов ИИТ Делхи, ИИТ Мадрас и УК Беркелей.

В условиях Узбекистана подобные системы верификации также крайне важны при внедрении искусственного интеллекта в государственные услуги, налоговую и банковскую системы. Поскольку в финансовых и правовых вопросах даже небольшая ошибка, допущенная AI, может привести к серьезным последствиям. Стартапы, подобные Прамаана Лабс, стремятся разрушить именно этот барьер недоверия.

По мнению Ранджан Раджагопалан, самые сложные проблемы в мире не являются нерешаемыми, они просто не систематизированы. «В любой области, затрагивающей здоровье, финансы или свободу человека, существуют правила. Теперь наша задача — превратить эти правила в код», — заключает он. Эта технология в будущем позволит предприятиям использовать искусственный интеллект не просто как эксперимент, а как основной рабочий инструмент.