Создан «прозрачный» ИИ-детектор текстов

Иллюстрация freepik.com

Российские ученые разработали «прозрачный» алгоритм для выявления ИИ-текстов, сообщается на сайте ТАСС. Новый метод способен не только отличать тексты, написанные человеком, от сгенерированных ИИ, но и объяснять, почему алгоритм принял то или иное решение.

Что создали российские ученые

Команда исследователей из МФТИ, Сколтеха, AIRI и других научных центров разработали новый подход. Он позволяет не только выявить «машинное» происхождение текста, но и объяснить, почему система сделала такой вывод.

Новый алгоритм способен объяснить, что именно его «насторожило». Это делает его более надежным и полезным, чем существующие сейчас «черные ящики».

Технология уже протестирована на материалах, созданных языковой моделью Gemma-2-2B. Она показала высокую эффективность в распознавании и объяснении ИИ-происхождения текстов – даже при попытках их «маскировки».

Почему это важно

Сейчас ИИ – такие как ChatGPT, LLaMA и другие – может писать тексты, которые на первый взгляд ничем не отличаются от текстов, написанных человеком. Все активнее ИИ применяется не только для создания вирусного контента в интернете и выполнения студенческих работ, но и для подготовки научных материалов, которые проходят экспертное рецензирование и публикуются в академических журналах.

А как сейчас?

К сожалению, существующие инструменты недостаточно эффективны. Большинство сегодняшних детекторов работают как «черный ящик». Они способны лишь определить, написан текст человеком или ИИ. Но если алгоритм ошибся, остается непонятным почему система сделала такой вывод и как это исправить. Это особенно важно, когда речь идет о проверке серьезной работы (например, об оценке диплома или проверке научной статьи).

Редакция ceur.ru