RusPhotoBank

Учёные использовали скрытые команды, чтобы ИИ хвалил их статьи

Учёные из ряда престижных университетов оказались в центре скандала из-за попыток повлиять на работу искусственного интеллекта при рецензировании научных статей. Как выяснили аналитики из Токио, исследователи из японского Университета Васэда, южнокорейского KAIST и Колумбийского университета в США встраивали в свои публикации скрытые инструкции, адресованные ИИ.

Команды, написанные белым шрифтом или в виде едва заметных символов, содержали просьбы оставлять только положительные комментарии, избегать критики и подчёркивать новизну исследований. Такие случаи были зафиксированы как минимум в 17 работах, размещённых на платформе arXiv.

Некоторые команды оказались весьма подробными — в них ИИ указывали, какие именно части статьи стоит похвалить. Сами авторы объясняют это тем, что боятся формального подхода со стороны «ленивых рецензентов», использующих нейросети для быстрой оценки материалов.

В KAIST уже заявили, что не были в курсе подобных методов и пересмотрят внутренние стандарты. Тем временем эксперты отмечают, что этот случай вскрыл уязвимость рецензионной системы, всё чаще прибегающей к автоматизации на фоне перегруженности научных изданий.

Проблема, как считают специалисты, требует обсуждения на уровне всего научного сообщества. Пока не появятся чёткие правила, сохраняется риск подрыва доверия к результатам научной деятельности.

Поделиться записью