Разработчик ChatGPT создал идентификатор текста, сгенерированного ИИ

Компания OpenAI, являющаяся разработчиком DALL-E и ChatGPT, создала бесплатный инструмент для распознавания текста, написанного с помощью искусственного интеллекта.

Об этом говорится в пресс-релизе Open AI.

Простой и бесплатный, но не самый надежный

Инструмент относительно простой, для его использования понадобится бесплатная учетная запись OpenAI. Вам просто нужно вставить текст в поле классификатора, щелкнуть кнопку, после чего он и определит происхождение текста.

Но вместе с тем есть достаточно много ограничений в работе классификатора:

1. требуется не менее 1000 символов, что составляет примерно 150-250 слов;
2. классификатор не всегда точен и может путать текст, сгенерированный ИИ и человеком;
3. сгенерированный ИИ текст можно легко отредактировать, чтобы обойти классификатор;
4. классификатор, скорее всего, ошибется в тексте, написанном детьми, и в неанглоязычном тексте, поскольку больше заточен на работу с англоязычным контентом, написанным взрослыми.

Подчеркивается, что классификатор не полностью надежен и «не должен использоваться в качестве основного инструмента для принятия решений».

Особенности создания

OpenAI сообщает, что разработке предшествовали дискуссии по поводу сгенерированного ИИ текста среди преподавателей учебных заведений. Поэтому очень важно признать ограничение и влияние классификаторов текста.

Классификатор представляет собой языковую модель, состоящую из пар текста по одной и той же теме – созданного человеком, и написанного ИИ.

Набор данных собрали из разных источников, созданных людьми. Затем сгенерировали текст из разных речевых моделей.

«Для нашего веб-приложения мы настраиваем порог достоверности. То есть мы замечаем текст как, вероятно, написанный ИИ, только в том случае, если классификатор уверен в этом», — заявляет компания.

Неделю назад корпорация Microsoft официально объявила о $10 млрд инвестиций в разработчика технологий на основе машинного обучения OpenAI.

Ранее сообщалось, что Microsoft  приступила  к работе над «убийцей Google» — новой версией своей поисковой системы Bing с использованием искусственного интеллекта, лежащего в основе ChatGPT от Open AI.

Компания OpenAI, одним из основателей которой является Илон Маск, представила новую версию 3.5 алгоритма обработки природного языка ChatGPT в декабре.

Воспользоваться классификатором можно по ссылке

Читайте также:

Чат-бот ChatGPT от OpenAI пишет стихи, спорит и извиняется. А также учит делать взрывчатку .

Шифрование, фишинг, наркоторговля: киберпреступники осваивают ChatGPT

Идея для стартапа: программист продает написанные ChatGPT фитнес-планы по $15