Сучасні методи штучного інтелекту для виявлення пропаганди в тексті
DOI:
https://doi.org/10.35681/1560-9189.2025.27.1.336147Ключові слова:
виявлення пропаганди, обробка природної мови, штучний інтелект, великі мовні моделі, мовні моделі з логічним міркуванням, багатоагентні системиАнотація
Пропаганда залишається одним із найбільш небезпечних інструментів сучасної когнітивної війни, здатним формувати сприйняття, спотворювати істину та посилювати розбіжності й напруження всередині суспільства. Руйнівний вплив пропаганди особливо очевидний у контексті війни росії проти України, де інформаційні маніпуляції стали не менш стратегічним елементом, ніж безпосередньо бойові дії. У сучасну цифрову епоху методи поширення пропаганди стають ще більш ефективними, використовуючи різноманітні платформи для швидкого охоплення широкої аудиторії та впливу на неї. Через заплутану багаторівневу природу пропаганди, що часто базується на тонких риторичних прийомах та емоційних маніпуляціях, традиційні методи розпізнавання зазвичай виявляються недостатньо ефективними для виявлення та протидії таким наративам. Складне поєднання психологічних, емоційних і лінгвістичних тактик, притаманних пропаганді, вимагає використання більш досконалих і чутливих до контексту методів розпізнавання.
Згадані виклики розглянуто шляхом глибокого аналізу сучасних методів виявлення пропаганди на основі штучного інтелекту. Починаючи з класичних методів керованого навчання, проаналізовано їхню ефективність та обмеження, зокрема залежність від якісно анотованих наборів даних. Розглянуто передові некеровані підходи з акцентом на потенціал великих мовних моделей (LLM), таких як GPT-4. Ці моделі дають змогу зменшити залежність від великих обсягів анотованих даних і мають унікальні можливості інтерпретації, що забезпечують прозорість і пояснювальну спроможність відповідних методів виявлення пропаганди.
У контексті майбутніх досліджень запропоновано три перспективні напрями: a) мовні моделі з логічним міркуванням (reasoning), що орієнтовані на багатокрокове, логічно аргументоване виявлення маніпулятивних елементів; б) багатоагентні системи, що координують економічно ефек-тивні моделі, підсилені передовими техніками конструювання підказок (prompt engineering); в) гібридні архітектури, які поєднують перші два підходи задля досягнення балансу між точністю, інтерпретованістю та масштабованістю. Ці напрями здатні ефективно задовольнити нагальну потребу в надійних системах аналізу інформації, що зможуть протистояти динамічній природі еволюції пропаганди. Розвиваючи відповідні методи штучного інтелекту, ми рухаємося до створення більш ефективних інструментів моніторингу та аналізу пропаганди, що, зрештою, сприятиме підвищенню стійкості демократичних суспільств перед загрозами сучасної інформаційної війни. І л.: 6. Бібліогр.: 13 найм.
Посилання
Jowett, G. S.; O’Donnell, V. Propaganda and Persuasion. 4th ed. Thousand Oaks, CA, USA: SAGE Publications, 2006.
Demeuse, R. The Russian War on Truth: Defending Allied and Partner Democracies Against the Kremlin’s Disinformation Campaigns. General Report 014 CDS 23 E rev. 2 fin, adopted by the Committee on Democracy and Security at the 2023 NATO PA Annual Session, Copenhagen, Denmark, Oct. 8, 2023.
Juršėnas, A.; Karlauskas, K.; Ledinauskas, E.; Maskeliūnas, G.; Rondomanskas, D.; Ruseckas, J. The Role of AI in the Battle Against Disinformation. NATO StratCom COE, Riga, Latvia, Feb. 2022.
Miller, C. R. The Techniques of Propaganda. In: How to Detect and Analyze Propaganda. Handout 10. The Center for Learning, 1939.
Rashkin, H.; Choi, E.; Jang, J. Y.; Wang, Y.; Volkova, S.; Choi, Y. Truth of Varying Shades: Analyzing Language in Fake News and Political Fact-Checking. In: Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing (EMNLP). Copenhagen, Denmark, 2017. pp. 2931–2937. https://doi.org/10.18653/v1/D17-1317
Da San Martino, G.; Yu, S.; Barrón-Cedeño, A.; Petrov, R.; Nakov, P. Fine-Grained Analysis of Propaganda in News Articles. In: Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP). 2019. pp. 5636–5646. https://doi.org/10.18653/v1/D19-1565
Horne, B. D.; Khedr, S.; Adalı, S. Sampling the News Producers: A Large News and Feature Data Set for the Study of the Complex Media Landscape. Proceedings of the International AAAI Conference on Web and Social Media. 2018. Vol. 12, No. 1. https://doi.org/10.1609/icwsm.v12i1.14982
Vysotska, V.; Przystupa, K.; Chyrun, L.; Vladov, S.; Ushenko, Y.; Uhryn, D.; Hu, Z. Disinformation, Fakes and Propaganda Identifying Methods in Online Messages Based on NLP and Machine Learning Methods. International Journal of Computer Network and Information Security. 2024. Vol. 16, No. 5. pp. 57–85. https://doi.org/10.5815/ijcnis.2024.05.06
Abdullah, M.; Altiti, O.; Obiedat, R. Detecting Propaganda Techniques in English News Articles using Pre-trained Transformers. In: Proceedings of the 13th International Conference on Information and Communication Systems (ICICS). 2022. pp. 301–308. https://doi.org/10.1109/ICICS55353.2022.9811117
Krak, I.; Didur, V.; Molchanova, M.; Mazurets, O.; Sobko, O.; Zalutska, O.; Barmak, O. Method for Political Propaganda Detection in Internet Content Using Recurrent Neural Network Models Ensemble. In: Proceedings of the 14th International Scientific and Practical Conference from Programming UkrPROG’2024, Kyiv, Ukraine, May 14–15, 2024. CEUR Workshop Proceedings. URL: https://ceur-ws.org/Vol-3806/S_36_Krak.pdf
Szwoch, J.; Staszków, M.; Rzepka, R.; Araki, K. Limitations of Large Language Models in Propaganda Detection Task. Applied Sciences. 2024. Vol. 14, No. 10. Art. 4330. https://doi.org/10.3390/app14104330
Da San Martino, G.; Cresci, S.; Barrón-Cedeño, A.; Yu, S.; Di Pietro, R.; Nakov, P. A Survey on Computational Propaganda Detection. In: Proceedings of the 29th International Joint Conference on Artificial Intelligence (IJCAI-20). 2020. pp. 4826–4832. https://doi.org/10.24963/ijcai.2020/672
Jones, D. G. Detecting Propaganda in News Articles Using Large Language Models. Eng OA. 2024. Vol. 2, No. 1. pp. 1–12. https://doi.org/10.33140/EOA.02.01.03
Sprenkamp, K.; Jones, D. G.; Zavolokina, L. Large Language Models for Propaganda Detection. arXiv preprint. 2023. URL: https://arxiv.org/abs/2310.06422. https://doi.org/10.48550/arXiv.2310.06422
OpenAI. Learning to Reason with LLMs. OpenAI, 2023. URL: https://openai.com/index/learning-to-reason-with-llms/
OpenAI’s O3 Reasoning Model and Google Gemini. Wired. URL: https://www.wired.com/story/openai-o3-reasoning-model-google-gemini/
OpenAI API Pricing. OpenAI. URL: https://openai.com/api/pricing/
Caballero, A.; Centeno, R.; Rodrigo, Á. LLM-Based Multi-Agent Models for Multiclass Classification of Strategic Narratives. In: Proceedings of the Iberian Languages Evaluation Forum (IberLEF 2024), Valladolid, Spain, 2024. CEUR Workshop Proceedings. URL: https://ceur-ws.org/Vol-3756/DIPROMATS2024_paper2.pdf
Alam, F.; Biswas, M. R.; Shah, U.; Zaghouani, W.; Mikros, G. Propaganda to Hate: A Multimodal Analysis of Arabic Memes with Multi-Agent LLMs. arXiv preprint. 2024. URL: https://arxiv.org/abs/2409.07246. https://doi.org/10.48550/arXiv.2409.07246
Lande, D.; Alekseichuk, L.; Svoboda, I.; Strashnoy, L. Methodology of a Swarm of Virtual Experts for Evaluating the Weight of Connections in Network. Theoretical and Applied Cybersecurity. 2024. Vol. 6, No. 2. pp. 25–33. https://doi.org/10.20535/tacs.2664-29132024.2.319946
Han, S.; Zhang, Q.; Yao, Y.; Jin, W.; Xu, Z.; He, C. LLM Multi-Agent Systems: Challenges and Open Problems. arXiv preprint. 2024. URL: https://arxiv.org/abs/2402.03578. https://doi.org/10.48550/arXiv.2402.03578
Wei, J.; Wang, X.; Schuurmans, D.; Bosma, M.; Ichter, B.; Xia, F.; Chi, E. H.; Le, Q. V.; Zhou, D. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. In: Proceedings of the 36th International Conference on Neural Information Processing Systems (NeurIPS ’22). New Orleans, LA, USA, 2022. Art. No. 1800. pp. 24824–24837. https://doi.org/10.48550/arXiv.2201.11903
Mecklenburg, N.; Lin, Y.; Li, X.; Holstein, D.; Nunes, L.; Malvar, S.; Silva, B.; Chandra, R.; Aski, V.; Yannam, P. K. R.; Aktas, T.; Hendry, T. Injecting New Knowledge into Large Language Models via Supervised Fine-Tuning. arXiv preprint. 2024. URL: https://arxiv.org/abs/2404.00213. https://doi.org/10.48550/arXiv.2404.00213
