Сучасні методи штучного інтелекту для виявлення пропаганди в тексті
DOI:
https://doi.org/10.35681/1560-9189.2025.27.1.336147Ключові слова:
виявлення пропаганди, обробка природної мови, штучний інтелект, великі мовні моделі, мовні моделі з логічним міркуванням, багатоагентні системиАнотація
Пропаганда залишається одним із найбільш небезпечних інструментів сучасної когнітивної війни, здатним формувати сприйняття, спотворювати істину та посилювати розбіжності й напруження всередині суспільства. Руйнівний вплив пропаганди особливо очевидний у контексті війни росії проти України, де інформаційні маніпуляції стали не менш стратегічним елементом, ніж безпосередньо бойові дії. У сучасну цифрову епоху методи поширення пропаганди стають ще більш ефективними, використовуючи різноманітні платформи для швидкого охоплення широкої аудиторії та впливу на неї. Через заплутану багаторівневу природу пропаганди, що часто базується на тонких риторичних прийомах та емоційних маніпуляціях, традиційні методи розпізнавання зазвичай виявляються недостатньо ефективними для виявлення та протидії таким наративам. Складне поєднання психологічних, емоційних і лінгвістичних тактик, притаманних пропаганді, вимагає використання більш досконалих і чутливих до контексту методів розпізнавання.
Згадані виклики розглянуто шляхом глибокого аналізу сучасних методів виявлення пропаганди на основі штучного інтелекту. Починаючи з класичних методів керованого навчання, проаналізовано їхню ефективність та обмеження, зокрема залежність від якісно анотованих наборів даних. Розглянуто передові некеровані підходи з акцентом на потенціал великих мовних моделей (LLM), таких як GPT-4. Ці моделі дають змогу зменшити залежність від великих обсягів анотованих даних і мають унікальні можливості інтерпретації, що забезпечують прозорість і пояснювальну спроможність відповідних методів виявлення пропаганди.
У контексті майбутніх досліджень запропоновано три перспективні напрями: a) мовні моделі з логічним міркуванням (reasoning), що орієнтовані на багатокрокове, логічно аргументоване виявлення маніпулятивних елементів; б) багатоагентні системи, що координують економічно ефек-тивні моделі, підсилені передовими техніками конструювання підказок (prompt engineering); в) гібридні архітектури, які поєднують перші два підходи задля досягнення балансу між точністю, інтерпретованістю та масштабованістю. Ці напрями здатні ефективно задовольнити нагальну потребу в надійних системах аналізу інформації, що зможуть протистояти динамічній природі еволюції пропаганди. Розвиваючи відповідні методи штучного інтелекту, ми рухаємося до створення більш ефективних інструментів моніторингу та аналізу пропаганди, що, зрештою, сприятиме підвищенню стійкості демократичних суспільств перед загрозами сучасної інформаційної війни. І л.: 6. Бібліогр.: 13 найм.
Посилання
G. S. Jowett and V. O’Donnell Propaganda and Persuasion, 4th ed. / Thousand Oaks, CA, USA: SAGE Publications, 2006, pp. 1–422.
R. Demeuse The Russian War on Truth: Defending Allied and Partner Democracies Against the Kremlin’s Disinformation Campaigns, General Report 014 CDS 23 E rev. 2 fin, adopted by the Committee on Democracy and Security at the 2023 NATO PA Annual Session, Copenhagen, Denmark, Oct. 8, 2023.
A. Jursenas, K. Karlauskas, E. Ledinauskas, G. Maskeliunas, D. Rondomanskas, and J. Ruseckas The Role of AI in the Battle Against Disinformation, NATO StratCom COE, Riga, Latvia, Feb. 2022.
C. R. Miller The Techniques of Propaganda // How to Detect and Analyze Propaganda, Handout 10, 1939, The Center for Learning.
H. Rashkin, E. Choi, J. Y. Jang, Y. Wang, S. Volkova, and Y. Choi Truth of Varying Shades: Analyzing Language in Fake News and Political Fact-Checking // Proc. 2017 Conf. Empirical Methods in Natural Language Process. (EMNLP), Copenhagen, Denmark, 2017, pp. 2931–2937. doi: 10.18653/v1/D17-1317
G. Da San Martino, S. Yu, A. Barrn-Cedeo, R. Petrov, and P. Nakov Fine-Grained Analysis of Propaganda in News Articles // Proc. of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), Jan. 2019, pp. 5636–5646. doi: 10.18653/v1/D19-1565
B. D. Horne, S. Khedr, and S. Adal Sampling the News Producers: A Large News and Feature Data Set for the Study of the Complex Media Landscape // Proc. of the AAAI Conference on Artificial Intelligence, 2018. doi: 10.1609/icwsm.v12i1.14982
V. Vysotska, K. Przystupa, L. Chyrun, S. Vladov, Y. Ushenko, D. Uhryn, and Z. Hu Disinformation, Fakes and Propaganda Identifying Methods in Online Messages Based on NLP and Machine Learning Methods / International Journal of Computer Network and Information Security, vol. 16, no. 5, 2024, pp. 57–85. doi: 10.5815/ijcnis.2024.05.06
M. Abdullah, O. Altiti, and R. Obiedat Detecting Propaganda Techniques in English News Articles using Pre-trained Transformers // Proc. 13th Int. Conf. on Information and Communication Systems (ICICS), 2022, pp. 301–308. doi: 10.1109/ICICS55353.2022.9811117
I. Krak, V. Didur, M. Molchanova, O. Mazurets, O. Sobko, O. Zalutska, and O. Barmak Method for Political Propaganda Detection in Internet Content Using Recurrent Neural Network Models Ensemble // Proc. 14th International Scientific and Practical Conference from Programming UkrPROG’2024, Kyiv, Ukraine, May 14–15, 2024, CEUR Workshop Proceedings. URL: https://ceur-ws.org/Vol-3806/S_36_Krak.pdf
J. Szwoch, M. Staszkow, R. Rzepka, and K. Araki Limitations of Large Language Models in Propaganda Detection Task / Applied Sciences, vol. 14, no. 10, Art. 4330, 2024. doi: 10.3390/app14104330
G. Da San Martino, S. Cresci, A. Barr?n-Cede?o, S. Yu, R. Di Pietro, and P. Nakov A Survey on Computational Propaganda Detection // Proc. 29th Int. Joint Conf. Artif. Intell. (IJCAI-20), C. Bessiere, Ed. International Joint Conferences on Artificial Intelligence Organization, Jul. 2020, pp. 4826–4832. doi: 10.24963/ijcai.2020/672
D. G. Jones Detecting Propaganda in News Articles Using Large Language Models / Eng OA, vol. 2, no. 1, Feb. 2024, pp. 1–12.
K. Sprenkamp, D. G. Jones, and L. Zavolokina Large Language Models for Propaganda Detection / arXiv preprint, arXiv:2310.06422, 2023. URL: https://arxiv.org/abs/2310.06422 [Accessed: Nov. 27, 2023].
OpenAI, “Learning to Reason with LLMs,” OpenAI, 2023. [Online]. Available: https://openai.com/index/learning-to-reason-with-llms/. [Accessed: Mar. 04, 2025].
OpenAI’s O3 Reasoning Model and Google Gemini, Wired. URL: https://www.wired.com/story/openai-o3-reasoning-model-google-gemini/ [Accessed: Feb. 21, 2025].
OpenAI API Pricing, OpenAI. URL: https://openai.com/api/pricing/. [Accessed: Feb. 21, 2025].
A. Caballero, R. Centeno, and Á. Rodrigo LLM-Based Multi-Agent Models for Multiclass Classification of Strategic Narratives // Proceedings of the Iberian Languages Evaluation Forum (IberLEF 2024), Valladolid, Spain, 2024, CEUR Workshop Proceedings. URL: https://ceur-ws.org/Vol-3756/DIPROMATS2024_paper2.pdf
F. Alam, M. R. Biswas, U. Shah, W. Zaghouani, and G. Mikros Propaganda to Hate: A Multimodal Analysis of Arabic Memes with Multi-Agent LLMs / arXiv preprint, arXiv:2409.07246, 2024. URL: https://arxiv.org/abs/2409.07246 [Accessed: Mar. 18, 2025].
D. Lande, L. Alekseichuk, I. Svoboda, and L. Strashnoy Methodology of a Swarm of Virtual Experts for Evaluating the Weight of Connections in Network / Theoretical and Applied Cybersecurity, vol. 6, no. 2, pp. 25-33, 2024. doi: 10.20535/tacs.2664-29132024.2.319946
S. Han, Q. Zhang, Y. Yao, W. Jin, Z. Xu, and C. He LLM Multi-Agent Systems: Challenges and Open Problems / arXiv preprint, arXiv:2402.03578, 2024. URL: https://arxiv.org/abs/2402.03578 [Accessed: Mar. 18, 2025].
J. Wei, X. Wang, D. Schuurmans, M. Bosma, B. Ichter, F. Xia, E. H. Chi, Q. V. Le, and D. Zhou Chain-of-thought prompting elicits reasoning in large language models // Proc. 36th Int. Conf. Neural Information Processing Systems (NeurIPS ’22), New Orleans, LA, USA, 2022, art. no. 1800, pp. 1–14.
N. Mecklenburg, Y. Lin, X. Li, D. Holstein, L. Nunes, S. Malvar, B. Silva, R. Chandra, V. Aski, P. K. R. Yannam, T. Aktas, and T. Hendry Injecting New Knowledge into Large Language Models via Supervised Fine-Tuning // arXiv preprint, arXiv:2404.00213, 2024. URL: https://arxiv.org/abs/2404.00213 [Accessed: Mar. 18, 2025].
