Використання ШІ для створення фальшивих наукових робіт стає великою проблемою, яка загрожує важливим медичним дослідженням і підриває довіру до академічних публікацій, попереджають дослідники.

Минулого року видання Computing відзначило, що такі інструменти, як ChatGPT, допомагають створювати дуже велику кількість наукових робіт, часто без належного визнання.

За словами Грея з UCL, в останніх наукових роботах помітно збільшилося використання таких слів, як "похвально", "інноваційно", "ретельно", "зрозуміло" і "вражаюче". Ця тенденція, за його словами, є відмінною рисою результатів, що генеруються магістрами права. Відсутність ясності щодо використання цих інструментів, на думку Грея, в кінцевому підсумку призведе до підриву довіри до академічних публікацій.

Нове дослідження, проведене науковцями Retraction Watch, Університету Гренобль-Альпи та Інституту досліджень в галузі інформатики в Тулузі, показує, що те, що ми бачимо, - це лише верхівка великої і серйозної проблеми. Фальшиві наукові роботи від так званих "паперових фабрик" перетворилися на швидкозростаючу індустрію, яка становить все більший ризик для чесності академічної роботи.

В академічну видавничу індустрію проникли шахраї, які ставлять прибуток вище за наукову чесність, пише The Conversation. Ці технологічні навички, а також здатність бути гнучкими і мережа недоброчесних дослідників допомагають їм створювати роботи в усьому спектрі - від маловідомих генів до застосування штучного інтелекту в медицині.

"Подібно до того, як заангажовані веб-сайти, що маскуються під неупереджені новини, підривають доказову журналістику і ставлять під загрозу вибори, фейкова наука розмиває фундамент знань, що лежить в основі сучасного суспільства".

Шахраї зазвичай використовують GenAI для створення правдоподібного контенту. Вчені використовували інструмент під назвою Problematic Paper Screener для сканування роботи на наявність "вимучених фраз", таких як "creepy crawlies" замість просто "комахи" та "інформація про підготовку" замість навчальних даних. Ці заїжджені фрази використовуються стратегічно, щоб уникнути простого ванільного плагіату, який легше виявити.
Існує ще одна ознака шахрайства GenAI.

Організація під назвою Retraction Watch, яка відстежує відкликання статей з академічних журналів, помітила в кількох статтях дивну фразу "вегетативна електронна мікроскопія", в тому числі в деяких, опублікованих такими відомими журналами, як Springer Nature. Він також з'являється в іншій статті, яка все ще доступна на ScienceDirect видавництва Elsevier, співавтором якої є Віджай Кумар Такур (Vijay Kumar Thakur), який працює спеціальним редактором контенту в Elsevier.

"Це унікальна риса, яка зустрічається в певних публікаціях і може вказувати на причетність паперової фабрики до підробки відбитків пальців", - сказав Фредерік Джоелвінг (Frederik Joelving), провідний редактор Retraction Watch.

Звідки ж походить термін "вегетативна електронна мікроскопія", якщо він не є загальновизнаним?

Російський хімік на ім'я "Paralabrax clathratus" та інженер-програміст з Казахстану Олександр Магазінов вважають, що вони знають значення фрази, яка вперше викликала їхній інтерес.

Це було пов'язано з можливою постійною нездатністю моделі штучного інтелекту розпізнавати двоколонковий формат, який все ще широко використовується в академічних публікаціях. Було знайдено статтю 1959 року, в якій у лівій колонці було написано "вегетативні", а в правій - "електронна мікроскопія". Можливо, модель сприймала роздільник колонок як частину звичайного тексту.

Процвітаюче шахрайство, модернізоване сучасними інструментами, разом із зростаючим тиском на науковців, що змушує їх писати роботи, придатні для публікації, ставить під загрозу святість наукової діяльності. Цунамі заявок на публікацію робить майже неможливим для редакторів і рецензентів тримати руку на пульсі подій. Видавці стверджують, що не більше 2% поданих робіт є шахрайськими. Насправді цей показник, ймовірно, набагато вищий, особливо в таких галузях, як біологія, медицина та комп'ютерні науки.

Статті відкликаються на безпрецедентному рівні, а в деяких випадках цілі журнали були закриті через велику кількість шахрайського контенту від паперових фабрик.

Це має велике значення. Це фальшиві статті, які дійсно гальмують прогрес у медичних дослідженнях - особливо це шкодить дослідженням раку.

Це проблема, яка тільки погіршуватиметься, оскільки тиск на публікацію зростає, а способи створення шахрайства стають все більш витонченими.