МЕТОД ВИЯВЛЕННЯ ПЕРСПЕКТИВНИХ НАУКОВИХ ТЕМ НА ОСНОВІ ГІБРИДНИХ TRANSFORMER-АРХІТЕКТУР ЗА ДАНИМИ НАУКОМЕТРИЧНИХ БАЗ

Анотація

У статті вирішено актуальне науково-прикладне завдання автоматизації виявлення перспективних наукових напрямів у великих масивах наукометричних даних. Стрімке зростання кількості публікацій створює інформаційне перевантаження, що ускладнює роботу дослідників із пошуку латентних трендів. Запропоновано універсальний метод, що базується на гібридній архітектурі глибокого навчання, яка поєднує переваги згорткових нейронних мереж (CNN) та Transformer – архітектур. Особливістю методу є використання CNN-шару як екстрактора локальних термінологічних паттернів, що дозволяє виявляти стійкі ключові фрази в анотаціях статей. Наступний каскад Transformer-шарів із механізмом MultiHeadAttention забезпечує моделювання глобальних семантичних зв’язків, що критично важливо для аналізу вузькоспеціалізованих текстів. Для подолання проблеми дисбалансу класів у наукометричних вибірках застосовано функцію втрат Focal Loss, що дозволило моделі ефективніше фокусуватися на рідкісних, але потенційно «проривних» темах.Апробацію методу проведено на базі метаданих Scopus у галузі кібербезпеки Інтернету речей (IoT Security), що охоплює 4833 публікації. Результати експериментальних досліджень продемонстрували високу ефективність моделі: досягнуто показник повноти (Recall) на рівні 0.80 та F1-score 0.61, що перевищує результати класичних моделей LSTM. Такий розподіл метрик є методологічно обґрунтованим для задач наукового пошуку, де пріоритетом є мінімізація ризику пропуску нових перспективних тем. Додатково реалізовано прогнозний модуль на основі лінійної регресії часових рядів цитувань, що дозволяє оцінювати майбутній потенціал напрямів. Запропоноване рішення є універсальним і може бути застосоване для підтримки прийняття рішень при плануванні досліджень та підготовці грантових заявок у різних наукових доменах