Аналитический дайджест от доктора Намиота Д.Е. Искусственный Интеллект в Кибербезопасности. №11

Аналитический дайджест от доктора Намиота Д.Е. (МГУ имени М.В. Ломоносова)
Искусственный Интеллект в Кибербезопасности. Хроника. Выпуск 11
Dmitry Namiot
Аннотация
В данном материале мы представляем вашему вниманию уже одиннадцатый по счёту выпуск нашего регулярного аналитического обзора, который целиком посвящён вопросам использования технологий искусственного интеллекта (ИИ) в сфере кибербезопасности. Этот цикл публикаций задуман как последовательное и системное изучение одной из наиболее быстро развивающихся и сложных областей, возникающей на пересечении двух мощных направлений - искусственного интеллекта и защиты информации. Главная цель проекта состоит в том, чтобы на постоянной основе отслеживать общемировые тенденции и обобщать самые заметные и значимые события, происходящие в этой сфере. При этом мы не ограничиваемся простым сбором и агрегацией новостей и информационных материалов: в рамках нашей инициативы проводится также глубокий и детальный разбор нормативно-правовых актов, громких и резонансных инцидентов, а также передовых технологических разработок, которые в совокупности определяют текущее состояние и облик кибербезопасности, формирующейся под всё возрастающим влиянием ИИ.
Каждый выпуск этой серии строится по единому, заранее определённому шаблону и включает в себя три тематических раздела, что позволяет обеспечить всесторонний и комплексный подход к рассмотрению всей проблематики. Первый раздел посвящён свежему обзору инцидентов и актуальных вызовов в области безопасности: здесь мы разбираем реальные сценарии атак, выявляем новые уязвимости и даём оценку тем угрозам, которые возникают в результате внедрения алгоритмов ИИ как в оборонительные механизмы, так и в инструментарий злоумышленников. Второй раздел характеризует текущее состояние нормативно-правовой среды и основные направления её развития. Понимание этих процессов критически важно, поскольку именно они создают правовые и эксплуатационные условия, в которых предстоит работать надёжным и защищённым ИИ-системам. Третий раздел посвящён обзору хронологии научно-технического прогресса. В заключительной части каждого выпуска приводится аннотированный перечень наиболее примечательных, с нашей точки зрения, научных публикаций, аналитических докладов ведущих организаций, а также описаний инновационных продуктов и решений.

Полный текст:
PDF - injoit.org/index.php/...
Литература
Maloyan, N. Adversarial Attacks on LLM-as-a-Judge Systems: Insights from Prompt Injections / N. Maloyan, D. Namiot // Distributed computer and communication networks: control, computation, communications (DCCN-2025) : Proceedings of the XXVIII international scientific conference, Moscow, 22–26 sentjabrja 2025 goda. – Moscow: V.A. Trapeznikov Institute of Control Sciences of the Russian Academy of Sciences, 2025. – P. 147-153. – EDN YZWWKA.
Song, Junzhe, and Dmitry Namiot. "On real-time model inversion attacks detection." International Conference on Distributed Computer and Communication Networks. Cham: Springer Nature Switzerland, 2023.
Baryshnikov, F. M. Redkie sobytija v modeljah glubokogo obuchenija / F. M. Baryshnikov, D. E. Namiot // Programmnaja inzhenerija. – 2026. – T. 17, # 5. – S. 239-252. – DOI 10.17587/prin.17.239-252. – EDN LIHEML.
Namiot, D. E., and T. M. Bidzhiev. "Attacks on machine learning models based on the pytorch framework." Automation and Remote Control 85.3 (2024): 263-271.
Namiot, D. E., E. A. Il'jushin, and I. V. Chizhov. "Ataki na sistemy mashinnogo obuchenija-obshhie problemy i metody." International Journal of Open Information Technologies 10.3 (2022): 17-22.
Namiot, D. E. Shemy atak na modeli mashinnogo obuchenija / D. E. Namiot // International Journal of Open Information Technologies. – 2023. – T. 11, # 5. – S. 68-86. – EDN YVRDOB.
Kuzmenko, Ilya Dmitrievich, Dmitry Evgenyevich Namiot, and Valery Alexandrovich Vasenin. "Metody obnaruzhenija dipfejkov v videokonferencijah v real'nom vremeni." Sovremennye informacionnye tehnologii i IT-obrazovanie 21.2 (2025): 204-220.
Namiot, D. E., and E. A. Il'jushin. "O kiberriskah generativnogo iskusstvennogo intellekta." International Journal of Open Information Technologies 12.10 (2024): 109-119.
NIST AI 100-2 E2025 csrc.nist.gov/pubs/ai/10... Retrieved: Aug, 2026
Namiot, D. E. Iskusstvennyj Intellekt v Kiberbezopasnosti. Hronika. Vypusk 10 / D. E. Namiot // International Journal of Open Information Technologies. – 2026. – T. 14, # 9. – S. 108-122. – EDN ZRVYYR.
Namiot, Dmitry. "Artificial Intelligence in Cybersecurity. Chronicle. Issue 1." International Journal of Open Information Technologies 13.9 (2025): 34-42.
Augustyniak, Piotr, and Piotr Zwierzykowski. "Evil Twin Attack in Wi-Fi Networks: Evolution, Mutation Taxonomy, and Exposure Time Analysis (2005–2026)." Electronics 15.15 (2026): 3432.
Namiot, D. Geofence and network proximity / D. Namiot, M. Sneps-Sneppe // Lecture Notes in Computer Science. – 2013. – Vol. 8121 LNCS. – P. 117-127. – DOI 10.1007/978-3-642-40316-3_11. – EDN SKWOCX.
Hubinger, Evan, et al. "Sleeper agents: Training deceptive llms that persist through safety training." arXiv preprint arXiv:2401.05566 (2024).
Tsigkopoulos, Spiros, and Christoforos Ntantogian. "From Prompt Injection to Web Exploitation: Revisiting Classic Vulnerabilities in LLM-Integrated Applications." arXiv preprint arXiv:2608.10281 (2026).
Chen, Sizhe, et al. "Repeat-After-Me: Black-Box Adaptive Visual Prompt Injection." arXiv preprint arXiv:2609.04533 (2026).
Patel, Khush, et al. "The Six Sigma Agent: Achieving Enterprise-Grade Reliability in LLM Systems Through Consensus-Driven Decomposed Execution." arXiv preprint arXiv:2601.22290 (2026).
Hossain, Elias, et al. "ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems." arXiv preprint arXiv:2607.19430 (2026).
Zhang, Shenyi, et al. "MMAligner: Safeguarding Multimodal Large Language Models through Representation Calibration." arXiv preprint arXiv:2608.05909 (2026).
Eliav, Or Zion, et al. "Know Your Agent: Reconnaissance-Driven Pentesting of AI Agents." arXiv preprint arXiv:2607.19837 (2026).
Razvitie transportno-logisticheskih otraslej Evropejskogo Sojuza: otkrytyj BIM, Internet Veshhej i kiber-fizicheskie sistemy / V. P. Kuprijanovskij, V. V. Alen'kov, A. V. Stepanenko [i dr.] // International Journal of Open Information Technologies. – 2018. – T. 6, # 2. – S. 54-100. – EDN YNIRFG.
Internet cifrovoj zheleznoj dorogi / V. P. Kuprijanovskij, G. V. Sukonnikov, S. A. Sinjagov [i dr.] // International Journal of Open Information Technologies. – 2016. – T. 4, # 12. – S. 53-68. – EDN XETADZ.