Neural architecture comparison for fact verification on FEVER dataset - Datsenko, Serhii (Національний університет “Полтавська політехніка імені Юрія Кондратюка”, 2025)
The exponential growth of misinformation and fake news across digital platforms poses unprecedented challenges to information integrity, requiring sophisticated automated fact-checking systems capable of verifying claims against reliable evidence sources with high accuracy and computational efficiency. This study aims to evaluate and compare four hybrid neural architectures (BiLSTM-CNN, BiLSTM-RNN, BiLSTM-GRU, and BiLSTM-GNN) for automated fact verification using the FEVER dataset, investigating their effectiveness in claim-evidence verification under GPU memory constraints while analyzing training dynamics and generalization capabilities. The following results are obtained: The BiLSTM-CNN architecture achieved optimal performance with 79.5% accuracy, 79.5% recall, 77.9% F1-score, and 93.4% AUC-ROC, followed by BiLSTM-GNN (78.9% accuracy, 93.3% AUC-ROC) and BiLSTM-GRU (77.9% accuracy, 92.2% AUC-ROC), while BiLSTM-RNN exhibited catastrophic failure (33.3% accuracy). All successful architectures demonstrated significant overfitting with 15-17% train-validation accuracy gaps, indicating systematic generalization challenges with limited training data (40,000 samples). Conclusion. Multi-kernel convolutional feature extraction proves most effective for local pattern recognition in fact verification, while graph-inspired approaches show promising potential for relational reasoning. The consistent overfitting across architectures highlights the critical need for enhanced regularization, data augmentation, and ensemble methods to achieve robust performance in automated fact-checking systems under computational constraints. Експоненціальне зростання дезінформації та фейкових новин на цифрових платформах ставить безпрецедентні виклики перед цілісністю інформації, що вимагає створення складних автоматизованих систем перевірки фактів, здатних з високою точністю та обчислювальною ефективністю перевіряти твердження на основі надійних джерел доказів. Це дослідження має на меті оцінити та порівняти чотири гібридні нейронні архітектури (BiLSTM-CNN, BiLSTM-RNN, BiLSTM-GRU та BiLSTM-GNN) для автоматизованої перевірки фактів за допомогою набору даних FEVER, досліджуючи їх ефективність у перевірці тверджень та доказів в умовах обмеженої пам'яті GPU, одночасно аналізуючи динаміку навчання та можливості узагальнення. Отримано наступні результати: архітектура BiLSTM-CNN досягла оптимальної продуктивності з точністю 79,5%, відтворюваністю 79,5%, 77,9% F1-показником та 93,4% AUC ROC, за нею йдуть BiLSTM-GNN (78,9% точність, 93,3% AUC-ROC) та BiLSTM-GRU (77,9% точність, 92,2% AUC ROC), тоді як BiLSTM-RNN продемонструвала катастрофічну невдачу (33,3% точність). Усі успішні архітектури продемонстрували значне перенавчання з розривом у точності тренування-валідації 15-17%, що вказує на системні проблеми узагальнення з обмеженими даними для навчання (40 000 зразків). Висновок. Витяг багатоядерних конволюційних ознак виявляється найефективнішим для розпізнавання локальних візерунків у перевірці фактів, тоді як підходи, натхненні графами, демонструють багатообіцяючий потенціал для реляційного міркування. Постійне перенавчання в різних архітектурах підкреслює гостру необхідність вдосконалення методів регуляризації, збільшення обсягу даних та ансамблевих методів для досягнення надійної роботи автоматизованих систем перевірки фактів в умовах обчислювальних обмежень.
Порівняння нейронних архітектур для перевірки фактів на наборі даних FEVER
Keywords: fact verification; neural networks; FEVER dataset; hybrid architectures; graph neural networks; bidirectional LSTM; перевірка фактів; нейронні мережі; набір даних FEVER; гібридні архітектури; графічні нейронні мережі; двонаправлений LSTM