sibsutisВестник СибГУТИThe Herald of the Siberian State University of Telecommunications and Information Science1998-6920СибГУТИ10.55648/1998-6920-2026-20-2-77-92sibsutis-1056Research ArticleСтатьиКлючевые принципы построения подсистемы информационной безопасности MLOpsKey principles for building an MLOps information security subsystemНагибинДмитрий ВикторовичNagibinDmitry Viktorovich

Аспирант кафедры «Автоматика и телемеханика» Пермского национального исследовательского политехнического университета (ПНИПУ)

dvnagibin+sib@pstu.ruКокоулинАндрей НиколаевичKokoulinAndrey Nikolaevich

к.т.н., доцент кафедры «Автоматика и телемеханика» Пермского национального исследовательского политехнического университета (ПНИПУ)

a.n.kokoulin@at.pstu.ruЮжаковАлександр АнатольевичYuzhakovAlexander Anatolyevich

д.т.н., профессор, заведующий кафедрой «Автоматика и телемеханика» Пермского национального исследовательского политехнического университета (ПНИПУ)

uz@at.pstu.ac.ruПермский национальный исследовательский политехнический университет (ПНИПУ).РоссияPerm National Research Polytechnic University (PNRPU).Russian FederationПермский национальный исследовательский политехнический университет (ПНИПУ). ФБУН «Федеральный научный центр медико-профилактических технологий управления рисками здоровью населения».РоссияPerm National Research Polytechnic University (PNRPU).Russian Federation202622062026202Вестник СибГУТИ7792Copyright © Нагибин Д.В., Кокоулин А.Н., Южаков А.А., 20262026Нагибин Д.В., Кокоулин А.Н., Южаков А.А.Nagibin D.V., Kokoulin A.N., Yuzhakov A.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://vestnik.sibsutis.ru/jour/article/view/1056

В статье рассматриваются ключевые принципы построения подсистемы информационной безопасности MLOps (Machine Learning Operations), учитывая растущую актуальность и уязвимость систем машинного обучения в современных условиях. В работе рассматриваются основные регуляторные требования к информационной безопасности систем, использующих машинное обучение, включая анализ требований ФСТЭК России. Обосновывается необходимость адаптации современных решений MLSecOps к условиям российского законодательства. Проведён анализ ключевых рисков кибербезопасности, характерных для каждого этапа жизненного цикла MLOps, а также представлены существующие методы и подходы их митигации. В работе приведена математическая формализация для оценки защищенности системы, учитывающей технические и регуляторные требования, а также требования к импортозамещению. Представлен концептуальный состав модулей подсистемы ИБ. Результаты исследования направлены на создание эффективной и надежной подсистемы защиты конвейеров MLOps и снижения рисков, связанных с использованием технологий машинного обучения.

The article examines the key principles for building an information security subsystem for MLOps (Machine Learning Operations), taking into account the increasing relevance and vulnerability of machine learning systems in modern conditions. The work considers the main regulatory requirements for information security of systems using machine learning, including an analysis of the requirements of the Russian Federal Service for Technical and Export Control (FSTEC). It argues for the need to adapt modern MLSecOps solutions to the conditions of Russian legislation. The analysis covers the key cybersecurity risks characteristic of each stage of the MLOps lifecycle, as well as existing methods and approaches for mitigating them. The work presents a mathematical formalization for assessing the security of the system, taking into account technical, regulatory, and import substitution requirements. The conceptual structure of the information security subsystem is presented. The results of the research are aimed at creating an effective and reliable protection system for MLOps pipelines and reducing the risks associated with the use of machine learning technologies.

MLOpsMLSecOpsинформационная безопасностьбезопасность машинного обученияриски кибербезопасности в MLOpsподсистема ИБ в MLOpsрегуляторные документы РФ по безопасности ИИMLOpsMLSecOpsinformation securitymachine learning securitycybersecurity risks in MLOpssecurity subsystem in MLOpsRussian regulatory documents on AI securityReferencesKreuzberger D. Machine Learning Operations (MLOps): Overview, Definition, and Architecture / D. Kreuzberger, N. Kühl, S. Hirschl // IEEE Access. – 2023. – Vol. 11. – Machine Learning Operations (MLOps). – P. 31866-31879.Kreuzberger D. Machine Learning Operations (MLOps): Overview, Definition, and Architecture / D. Kreuzberger, N. Kühl, S. Hirschl // IEEE Access. – 2023. – vol. 11. – Machine Learning Operations (MLOps). – P. 31866-31879.Patel R. Towards Secure MLOps: Surveying Attacks, Mitigation Strategies, and Research Challenges. Towards Secure MLOps / R. Patel [и др.] arXiv:2506.02032 [cs]. – arXiv, 2026.Patel R. Towards Secure MLOps: Surveying Attacks, Mitigation Strategies, and Research Challenges. Towards Secure MLOps / R. Patel [et al] arXiv:2506.02032 [cs]. – arXiv, 2026.Wilson S. The developer’s playbook for large Language model security: building secure AI applications. The developer’s playbook for large Language model security / S. Wilson. – First edition. – Beijing Boston Farnham Sebastopol Tokyo: O’Reilly, 2024. – 200 p.Wilson S. The developer’s playbook for large Language model security: building secure AI applications. The developer’s playbook for large Language model security / S. Wilson. – First edition. – Beijing Boston Farnham Sebastopol Tokyo: O’Reilly, 2024. – 200 p.Указ Президента Российской Федерации от 10.10.2019 г. № 490. О развитии искусственного интеллекта в Российской Федерации. (В редакции Указа Президента Российской Федерации от 15.02.2024 № 124).Ukaz Prezidenta Rossiiskoi Federatsii ot 10.10.2019 g. no. 490. O razvitii iskusstvennogo intellekta v Rossiiskoi Federatsii. (V redaktsii Ukaza Prezidenta Rossiiskoi Federatsii ot 15.02.2024 no. 124).Регуляторные документы РФ по безопасности ИИ — с чем мы вступаем в 2026 год [Электронный ресурс] : Хабр. – URL: https://habr.com/ru/articles/986800/ (дата обращения: 07.02.2026).Regulyatornye dokumenty RF po bezopasnosti II — s chem my vstupaem v 2026 god [Elektronnyi resurs] : Khabr. – URL: https://habr.com/ru/articles/986800/ (accessed: 07.02.2026).Федеральная служба по техническому и экспортному контролю. Требования о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений: утверждены приказом ФСТЭК России от 11 апреля 2025 г. № 117.Federal'naya sluzhba po tekhnicheskomu i eksportnomu kontrolyu. Trebovaniya o zashchite informatsii, soderzhashcheisya v gosudarstvennykh informatsionnykh sistemakh, inykh informatsionnykh sistemakh gosudarstvennykh organov, gosudarstvennykh unitarnykh predpriyatii, gosudarstvennykh uchrezhdenii: utverzhdeny prikazom FSTEK Rossii ot 11 aprelya 2025 g. no. 117.Анализ ключевых изменений в требованиях к защите информации согласно Приказу ФСТЭК № 117 [Электронный ресурс]. – URL: https://sec.ussc.ru/fstec_117 (дата обращения: 08.02.2026).Analiz klyuchevykh izmenenii v trebovaniyakh k zashchite informatsii soglasno Prikazu FSTEK no. 117, available at: https://sec.ussc.ru/fstec_117 (accessed: 08.02.2026).Федеральная служба по техническому и экспортному контролю. Методический документ. Методика анализа защищенности информационных систем. Утверждена 25 ноября 2025 г.Federal'naya sluzhba po tekhnicheskomu i eksportnomu kontrolyu. Metodicheskii dokument. Metodika analiza zashchishchennosti informatsionnykh sistem. Utverzhdena 25 noyabrya 2025 g.ГОСТ Р 70462.1-2022/ISO/IEC TR 24029-1-2021. Информационные технологии. Интеллект искусственный. Оценка робастности нейронных сетей.GOST R 70462.1-2022/ISO/IEC TR 24029-1-2021. Informatsionnye tekhnologii. Intellekt iskusstvennyi. Otsenka robastnosti neironnykh setei.Намиот Д.Е. Схемы атак на модели машинного обучения / Д.Е. Намиот // International Journal of Open Information Technologies. – 2023. – Т. 11. – № 5. – С. 68-86.Namiot D.E. Skhemy atak na modeli mashinnogo obucheniya / D.E. Namiot // International Journal of Open Information Technologies. – 2023. – vol. 11. – no. 5. – pp. 68-86.Lavaur L. Investigating the Impact of Label-flipping Attacks against Federated Learning for Collaborative Intrusion Detection / L. Lavaur, Y. Busnel, F. Autrel // Computers & Security. – 2025. – Vol. 156. – P. 104462.Lavaur L. Investigating the Impact of Label-flipping Attacks against Federated Learning for Collaborative Intrusion Detection / L. Lavaur, Y. Busnel, F. Autrel // Computers & Security. – 2025. – vol. 156. – P. 104462.Hall P. Machine learning for high-risk applications: approaches to responsible AI. Machine learning for high-risk applications / P. Hall. – First Edition. – Québec: O’Reilly Media, Incorporated, 2023. – 466 p.Hall P. Machine learning for high-risk applications: approaches to responsible AI. Machine learning for high-risk applications / P. Hall. – First Edition. – Québec: O’Reilly Media, Incorporated, 2023. – 466 p.Sotiropoulos J. Adversarial AI Attacks, mitigations, and defense strategies: a cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps. Adversarial AI Attacks, mitigations, and defense strategies / J. Sotiropoulos. – Place of publication not identified: Packt Publishing, 2024. – 602 p.Sotiropoulos J. Adversarial AI Attacks, mitigations, and defense strategies: a cybersecurity professional’s guide to AI attacks, threat modeling, and securing AI with MLSecOps. Adversarial AI Attacks, mitigations, and defense strategies / J. Sotiropoulos. – Place of publication not identified: Packt Publishing, 2024. – 602 p.Намиот Д.Е. Атаки на системы машинного обучения - общие проблемы и методы / Д.Е. Намиот, Е.А. Ильюшин, И.В. Чижов // International Journal of Open Information Technologies. – 2022. – Т. 10. – № 3. – С. 17-22.Namiot D.E. Ataki na sistemy mashinnogo obucheniya - obshchie problemy i metody / D.E. Namiot, E.A. Il'yushin, I.V. Chizhov // International Journal of Open Information Technologies. – 2022. – vol. 10. – no. 3. – pp. 17-22.Kovacs E. “EchoLeak” AI Attack Enabled Theft of Sensitive Data via Microsoft 365 Copilot [Электронный ресурс]. – URL: https://www.securityweek.com/echoleak-ai-attack-enabled-theft-of-sensitive-data-via-microsoft-365-copilot/ (дата обращения: 08.02.2026).Kovacs E. “EchoLeak” AI Attack Enabled Theft of Sensitive Data via Microsoft 365 Copilot, available at: https://www.securityweek.com/echoleak-ai-attack-enabled-theft-of-sensitive-data-via-microsoft-365-copilot/ (accessed: 08.02.2026).Gao Y. Backdoor Attacks and Countermeasures on Deep Learning: A Comprehensive Review. Backdoor Attacks and Countermeasures on Deep Learning / Y. Gao [et al.] arXiv:2007.10760 [cs]. – arXiv, 2020.Gao Y. Backdoor Attacks and Countermeasures on Deep Learning: A Comprehensive Review. Backdoor Attacks and Countermeasures on Deep Learning / Y. Gao [et al.] arXiv:2007.10760 [cs]. – arXiv, 2020.Sutton O.J. Staining and locking computer vision models without retraining / O.J. Sutton [и др.] arXiv:2507.22000 [cs]. – arXiv, 2025.Sutton O.J. Staining and locking computer vision models without retraining / O.J. Sutton [et al] arXiv:2507.22000 [cs]. – arXiv, 2025.MLOps Market Outlook from 2026 to 2033: Trends by Application, by Region, and 12.8% CAGR Forecast [Электронный ресурс]. – URL: https://www.linkedin.com/pulse/mlops-market-outlook-from-2026-2033-trends-application-region-dswuf (дата обращения: 02.03.2026).MLOps Market Outlook from 2026 to 2033: Trends by Application, by Region, and 12.8% CAGR Forecast, available at: https://www.linkedin.com/pulse/mlops-market-outlook-from-2026-2033-trends-application-region-dswuf (accessed: 02.03.2026).Giskard - LLM Agent Testing & Evaluation Platform [Электронный ресурс]. – URL: https://docs.giskard.ai/index.html (дата обращения: 08.02.2026).Giskard - LLM Agent Testing & Evaluation Platform, available at: https://docs.giskard.ai/index.html (accessed: 08.02.2026).Center S.I.S. ModelScan - Protection Against Model Serialization Attacks [Электронный ресурс]. – URL: https://isc.sans.edu/diary/31692 (дата обращения: 08.02.2026).Center S.I.S. ModelScan - Protection Against Model Serialization Attacks, available at: https://isc.sans.edu/diary/31692 (accessed: 08.02.2026).LLM Monitoring для GenAI-приложений | AI Security Lab ИТМО [Электронный ресурс]. – URL: https://hivetrace.ru/ (дата обращения: 08.02.2026).LLM Monitoring dlya GenAI-prilozhenii | AI Security Lab ITMO, available at: https://hivetrace.ru/ (accessed: 08.02.2026).LLAMATOR [Электронный ресурс]. – URL: https://llamator-core.github.io/llamator/ (дата обращения: 08.02.2026).LLAMATOR, available at: https://llamator-core.github.io/llamator/ (accessed: 08.02.2026).Гарда DLP — система предотвращения утечек информации | Продажа и внедрение от Российского разработчика «Гарда» [Электронный ресурс]. – URL: https://garda.ai/products/data-protection/dlp (дата обращения: 08.02.2026).Garda DLP — sistema predotvrashcheniya utechek informatsii | Prodazha i vnedrenie ot Rossiiskogo razrabotchika «Garda», available at: https://garda.ai/products/data-protection/dlp (accessed: 08.02.2026).PT Dephaze — автопентест, который покажет, что сможет сделать хакер в инфраструктуре [Электронный ресурс]. – URL: https://ptsecurity.com/products/dephaze/ (дата обращения: 08.02.2026).PT Dephaze — avtopentest, kotoryi pokazhet, chto smozhet sdelat' khaker v infrastrukture, available at: https://ptsecurity.com/products/dephaze/ (accessed: 08.02.2026).Kim J. Security for the scientific data services framework / J. Kim [et al.] // 2015 IEEE International Conference on Big Data (Big Data) 2015 IEEE International Conference on Big Data (Big Data). – 2015. – P. 1871-1875.Kim J. Security for the scientific data services framework / J. Kim [et al.] // 2015 IEEE International Conference on Big Data (Big Data) 2015 IEEE International Conference on Big Data (Big Data). – 2015. – P. 1871-1875.Spadari V. An MLOps Framework for Explainable Network Intrusion Detection with MLflow / V. Spadari [et al.] // 2024 IEEE Symposium on Computers and Communications (ISCC) 2024 IEEE Symposium on Computers and Communications (ISCC). – Paris, France: IEEE, 2024. – P. 1-6.Spadari V. An MLOps Framework for Explainable Network Intrusion Detection with MLflow / V. Spadari [et al.] // 2024 IEEE Symposium on Computers and Communications (ISCC) 2024 IEEE Symposium on Computers and Communications (ISCC). – Paris, France: IEEE, 2024. – P. 1-6.Tete S.B. Threat Modelling and Risk Analysis for Large Language Model (LLM)-Powered Applications / S.B. Tete arXiv:2406.11007 [cs]. – arXiv, 2024.Tete S.B. Threat Modelling and Risk Analysis for Large Language Model (LLM)-Powered Applications / S.B. Tete arXiv:2406.11007 [cs]. – arXiv, 2024.Hassija V. Interpreting Black-Box Models: A Review on Explainable Artificial Intelligence / V. Hassija [et al.] // Cognitive Computation. – 2024. – Vol. 16. – Interpreting Black-Box Models. – № 1. – P. 45-74.Hassija V. Interpreting Black-Box Models: A Review on Explainable Artificial Intelligence / V. Hassija [et al.] // Cognitive Computation. – 2024. – vol. 16. – Interpreting Black-Box Models. – no. 1. – P. 45-74.Awesome MLSecOps [Электронный ресурс]. – URL: https://github.com/RiccardoBiosas/awesome-MLSecOps (дата обращения: 04.02.2026).Awesome MLSecOps, available at: https://github.com/RiccardoBiosas/awesome-MLSecOps (accessed: 04.02.2026).Намиот Д.Е. О работе AI Red Team / Д.Е. Намиот, Е.В. Зубарева // International Journal of Open Information Technologies. – 2023. – Т. 11. – № 10. – С. 130-139.Namiot D.E. O rabote AI Red Team / D.E. Namiot, E.V. Zubareva // International Journal of Open Information Technologies. – 2023. – vol. 11. – no. 10. – pp. 130-139.

The authors declare that there are no conflicts of interest present.