Міжнародні вчені опублікували цікаве дослідження. Науковці присвятили свій час вивченню зростання наукових публікацій, що створені штучним інтелектом (ШІ).
У матеріалі йде мова про те, що деякі сучасні текстові генератори (наприклад, GPT-3), якими управляє ШІ, спотворюють наукову мову. Найбільш сумним є те, що такі статті позиціонують, як результат системних досліджень. Але вони містять некоректний контент.
Розглянемо основні проблеми?
► Текстовий генератор навчається на великих об’ємах даних і призначений для перефразування, узагальнення, зіставлення та інтерпретації цих даних у мовні моделі, які здатні відтворювати мову. Проблемою є те, що такий генератор завжди шукає синоніми. Багато статей, що згенеровані ним, містять велику кількість прикладів невдалого використання синонімів для звичних фраз.
deep neural network: «profound neural organization»
(Глибокі нейронні мережі: «глибока нейронна організація»)
artificial neural network: « (fake | counterfeit) neural organization»
(Штучна нейронна мережа: «фальшива | підроблена нейронна організація»)
mobile network: «versatile organization»
(Мобільна мережа: «універсальна організація»)
► Окрім створення проблемних текстів, текстовий генератор може розпізнавати такі статті і цитувати їх у інших дослідженнях.
► Вчені вважають, що інколи, під час написання роботи, використовується переробка випадково обраної якісної статті, яка вже була опублікована. Автори вважають, що це робиться, щоб відповідати публікаційним вимогам, покращувати національний рейтинг за рахунок кількості публікацій.
► Текстові генератори втрачають головну думку. Вони піднімають її на початку статті, але не повертаються до неї у кінці.
► Вчені допускають, що деякі роботи утворились завдяки багаторазовому прогону тексту через автоматичні перекладачі, що дуже сильно спотворюють текст.
Автори дослідження закликають наукову спільноту бути більш уважними до редакційної роботи, покращувати стандарти оцінки публікацій на тему штучного інтелекту. «Синтетичні» тексти можуть загрожувати цілісності наукової літератури.
Нагадаємо, нещодавно вийшов матеріал "Національна премія України ім. Бориса Патона. Що передбачає Положення про нагороду?"
