Использование искусственного интеллекта для создания фальшивых научных работ становится серьезной проблемой, которая угрожает важнейшим медицинским исследованиям и подрывает доверие к академическим публикациям, предупреждают исследователи.

В прошлом году компания Computing отметила, что такие инструменты, как ChatGPT, помогают создавать очень большое количество научных работ, часто без должного признания.

Грэй из Калифорнийского университета в своих комментариях отметил, что в последних научных работах все чаще используются такие слова, как "похвально", "инновационно", "скрупулезно", "доходчиво" и "впечатляюще". Он отметил, что эта тенденция является отличительной чертой работ, подготовленных магистрантами. Отсутствие ясности в отношении использования этих инструментов, указал Грэй, в конечном итоге приведет к подрыву доверия к академическим публикациям.

Новое исследование, проведенное учеными из Retraction Watch, Университета Гренобль-Альп и Института исследований в области информатики в Тулузе, показывает, что то, что мы видим, - лишь вершина большой и серьезной проблемы. Фальшивые научные работы от так называемых бумажных фабрик превратились в быстро развивающуюся индустрию, которая представляет все больший риск для честности академических работ.

В академическую издательскую индустрию проникли мошенники, которые ставят прибыль выше научной честности, пишет The Conversation. Эти технологические навыки, а также умение быть гибким и сеть недобросовестных исследователей помогают им создавать работы по всему спектру - от неясных генов до искусственно созданных интеллектуальных приложений в медицине.

"Подобно тому, как крайне пристрастные сайты, маскирующиеся под беспристрастные новости, подрывают научно обоснованную журналистику и ставят под угрозу выборы, фальшивая наука подрывает фундамент знаний, на котором держится современное общество".

Мошенники обычно используют GenAI для создания правдоподобного контента. Ученые использовали инструмент под названием Problematic Paper Screener для сканирования работ на предмет "вымученных фраз", таких как "жуткие ползучие твари" вместо простого слова "насекомые" и "информация о подготовке" вместо учебных данных. Эти вымученные фразы используются стратегически, чтобы избежать обычного плагиата, который легче обнаружить.
Существует еще один признак хитрости GenAI.

Организация под названием Retraction Watch, которая отслеживает случаи отзыва статей из академических журналов, заметила в нескольких работах странную фразу "вегетативная электронная микроскопия", в том числе в некоторых, опубликованных в таких известных журналах, как Springer Nature. Она также встречается в другой статье, которая до сих пор доступна на сайте ScienceDirect компании Elsevier и соавтором которой является Виджай Кумар Тхакур, работающий специальным редактором контента в Elsevier.

"Это уникальная черта, встречающаяся в некоторых публикациях, которая, возможно, указывает на причастность бумажных фабрик к отпечаткам пальцев", - говорит Фредерик Джоэлвинг, контрибьютор Retraction Watch.

Откуда взялся термин "вегетативная электронная микроскопия", ведь он не получил широкого признания?

Российский химик по имени "Paralabrax clathratus" и инженер-программист из Казахстана Александр Магазинов считают, что знают значение фразы, которая впервые вызвала их интерес.

Это было связано с возможной неудачей модели искусственного интеллекта в распознавании двухколоночного формата, который до сих пор широко используется в научных публикациях. Была найдена статья 1959 года, в которой в левой колонке было написано "вегетативный", а в правой - "электронная микроскопия". Возможно, модель воспринимала разделитель колонок как часть обычного текста.

Разросшееся мошенническое предприятие, модернизированное современными инструментами, наряду с растущим давлением на ученых, требующих публикации, ставит под угрозу святость научной деятельности. Из-за цунами заявок редакторам и рецензентам практически невозможно уследить за всем. Издатели утверждают, что не более 2% поданных работ являются фальсификацией. На самом деле, вероятно, этот показатель гораздо выше, особенно в таких областях, как биология, медицина и компьютерные науки.

Число отказов от статей достигло беспрецедентного уровня, а в некоторых случаях из-за большого количества мошеннического контента, поступающего от бумажных фабрик, были закрыты целые журналы.

Это имеет большое значение. Это фальшивая статья, которая сдерживает прогресс в медицинских исследованиях - в частности, она вредит исследованиям рака.

Эта проблема будет только усугубляться по мере того, как давление на публикацию будет возрастать, а способы создания фальшивок будут становиться все более изощренными.