Стартап Панграм привлек 9 миллионов долларов инвестиций для борьбы с контентом от AI

В то время как интернет заполняется созданными с помощью искусственного интеллекта низкокачественными данными, базирующийся в Нью-Йорке стартап Панграм привлек 9 миллионов долларов инвестиций для разработки новых инструментов, предназначенных для различения человеческих и АИ-текстов. Согласно данным иксбт.ком и TechCrunch, этот раунд финансирования прошел под руководством Менло Вентурес при участии Хайстак, СкОп, Скрипт Капитал и Каденза. Об этом сообщает Techcrunch.ком .

Этот финансовый успех совпал по времени с представлением стартапом детектора текста Панграм 4 следующего поколения и модели для распознавания АИ-изображений Панграм Имаге. По заявлению компании, новая модель обнаружения текста способна находить материалы, написанные с помощью AI или созданные совместными усилиями человека и AI, с точностью более 99 процентов. Она также легко разоблачает специальные программы, имитирующие человеческий стиль написания текстов.

Угрозы искусственного интеллекта и история появления нового стартапа

Компания Панграм была основана два года назад выпускниками Стэнфордского университета Максом Сперо и Брэдли Эми. После запуска ChatGPT интернет наводнили боты, созданный с помощью AI и направленный на обман поисковых систем СЭО-контент, а также различные кампании по дезинформации. Именно такие проблемы побудили молодых специалистов создать данный сервис.

По словам Макса Сперо, читателю чрезвычайно важно знать, написан ли предоставленный ему текст искусственным интеллектом или нет. Понимание источника читаемого текста особенно меняет подход людей к нему. Если текст написан с помощью AI, необходимо помнить о высокой вероятности ошибок или вымышленных данных в нем.

Механизм работы технологии и планы на будущее

По своей сути система Панграм представляет собой крупную модель машинного обучения, обученную на миллионах точных человеческих документов. Стартап для каждого документа создал синтетические зеркала, повторяющие тему, длину и тональность, но написанные передовыми языковыми моделями. В результате модель изучает стилистические различия и решения, допускаемые AI, и успешно определяет с высокой точностью, является ли текст продуктом искусственного интеллекта.

Деятельность данного стартапа не ограничивается поиском текстов, написанных исключительно искусственным интеллектом. Он также умеет различать случаи частичной помощи при создании текста — когда человек написал материал сам, а затем использовал AI для его исправления. По мнению специалистов, использование помощи AI допустимо, однако автор обязан открыто сообщать об этом читателям.

В настоящее время на фоне широкого использования АИ-инструментов проявляются и их негативные последствия. Если некоторые политики становятся посмешищем из-за ошибок искусственного интеллекта в своих выступлениях, то некоторые юристы сталкиваются со штрафами и санкциями из-за созданных ChatGPT фальшивых цитат. Подобные ситуации заставляют не только отдельных лиц, но и различные учреждения внедрять более жесткие правила и ограничения в отношении контента от AI.