sibsutisВестник СибГУТИThe Herald of the Siberian State University of Telecommunications and Information Science1998-6920СибГУТИ10.55648/1998-6920-2023-17-3-78-86sibsutis-573Research ArticleСтатьиРазработка методологии защиты системы искусственного интеллекта в распределенных информационных системахDevelopment of a methodology for the protection of artificial intelligence systems in distributed information systemshttps://orcid.org/0000-0002-4216-6370ШтеренбергС. И.ShterenbergS. I.

Штеренберг Станислав Игоревич - кандидат технических наук, доцент кафедры информационной безопасности, МТУСИ.

111024, Москва, ул. Авиамоторная, 8а

Stanislav I. Shterenberg - Cand. of Sci. (Engineering), Associate Professor of the Department of Information Security, MTUCI.

111024, Moscow, Aviamotornaya str., 8a

shterenberg.stanislaw@yandex.ruМосковский технический университет связи и информатики (МТУСИ)РоссияMoscow Technical University of Communications and Informatics (MTUCI)Russian Federation2023280920231737886Copyright © Штеренберг С.И., 20232023Штеренберг С.И.Shterenberg S.I.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://vestnik.sibsutis.ru/jour/article/view/573

Данная статья посвящена методологии строительства искусственных интеллектуальных систем для задач защиты информации. Защищать же планируется сам искусственный интеллект (ИИ) и информацию, которую данное устройство будет обрабатывать. Мероприятие масштабное по своей величине и автор данного текста постарается представить не просто концепт, скорее идею по достижению цели данного результата. Под результатом будем понимать итоговое строительство защищенного ИИ, созданного для организации обеспечения информационной безопасности (ИБ).

This article is devoted to the methodology for the construction of artificial intelligent systems for information security tasks. It is planned to protect the artificial intelligence itself and the information that this device will process. The task is large-scale in its magnitude and the author of this text will try to present not just a concept, but rather an idea of how to achieve the goal of this result. By the result we will understand the final construction of a secure AI created for the organization of information security.

искусственный интеллектнейронные сетибольшие данныемашинное обучениеквазибиологическая парадигмаArtificial intelligenceneural networksBig dataMachine learningquasi-biological paradigmИсследование выполнено при финансовой поддержке Минцифры России (грант ИБ) в рамках научного проекта, соглашение № 40469-05/2022-д от 30.06.2022ReferencesБостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / пер. с англ. С. Филина. М.: Манн, Иванов и Фербер, 2016. 496 с.Bostrom N., Iskusstvennyi intellekt. Etapy. Ugrozy. Strategii [Artificial Intelligence. Stages. Threats. Strategies]. Moscow, Mann, Ivanov and Ferber, 2016. 496 p.Штеренберг С. И. Методика построения защищенных систем искусственного интеллекта для проведения электроретинографии в офтальмологии // Офтальмохирургия. 2022. № S4. С. 51–57.Shterenberg S. I. Metodika postroeniya zashchishchennykh sistem iskusstvennogo intellekta dlya provedeniya elektroretinografii v oftal'mologii [Methods of constructing protected artificial intelligence systems for conducting electroretinography in ophthalmology]. Oftal'mokhirurgiya, 2022, no. S4. pp. 51-57.Николенко С., Кадурин А., Архангельская Е. Глубокое обучение. СПб.: Питер, 2018. 480 с.Nikolenko S., Kadurin A., Arkhangel'skaya E. Glubokoe obuchenie [Deep learning]. Saint Petersburg, Peter, 2018. 480 p.Ушаков И. А. Обнаружение инсайдеров в корпоративной компьютерной сети на основе технологий анализа больших данных // Вестник Санкт-Петербургского государственного университета технологии и дизайна. Серия 1: Естественные и технические науки. 2019. № 4. С. 38–43.Ushakov I. A. Obnaruzhenie insaiderovv korporativnoi komp'yuternoi seti na osnove tekhnologii analiza bol'shikh dannykh [Detection of insiders in the corporate computer network based on big data analysis technologies]. Vestnik Sankt-Peterburgskogo gosudarstvenno-go universiteta tekhnologii i dizaina. Seriya 1: Estestvennye i tekhnicheskie nauki, 2019, no. 4. pp. 38-43.Степанов М. Д., Павленко Е. Ю., Лаврова Д. С. Обнаружение сетевых атак в программно-конфигурируемых сетях с использованием алгоритма изолирующего леса // Проблемы информационной безопасности. Компьютерные системы. 2021. № 1. С. 62–78.Stepanov M. D., Pavlenko E. Yu., Lavrova D. S. Obnaruzhenie setevykh atak v programmnokonfiguriruemykh setyakh s ispol'zovaniem algoritma izoliruyushchego lesa [Detection of network at- tacks in software-configurable networks using the isolating forest algorithm]. Problemy informatsionnoi bezopasnosti. Komp'yuternye sistemy, 2021, no. 1, pp. 62-78.Васильева К. В., Лаврова Д. С. Обнаружение аномалий в киберфизических системах с использованием графовых нейронных сетей // Проблемы информационной безопасности. Компьютерные системы. 2021. № 1. С. 117–130.Vasil'eva K. V., Lavrova D. S. Obnaruzhenie anomalii v kiberfizicheskikh sistemakh s ispol'zovaniem grafovykh neironnykh setei [Detection of anomalies in cyberphysical systems using graph neural networks]. Problemy informatsionnoi bezopasnosti. Komp'yuternye sistemy, 2021, no. 1. pp. 117-130.Хапке Х., Нельсон К. Разработка конвейеров машинного обучения. Автоматизация жизненных циклов модели с помощью TensorFlow / пер. с англ. Н. Б. Желновой. М.: ДМК Пресс, 2021. 346 с.Khapke Kh., Nel'son K. Razrabotka konveierov mashinnogo obucheniya. Avtomatizatsiya zhiz-nennykh tsiklov modeli s pomoshch'yu TensorFlow [Development of machine learning pipelines. Automation of life cycles of the model using TensorFlow]. Moscow, DMK Press, 2021. 346 p.Миняев А. А. Метод и методика оценки эффективности системы защиты территориальнораспределенных информационных систем // Информатизация и связь. 2020. № 6. С. 29–36.Minyaev A.A. Metod i metodika otsenki effektivnosti sistemy zashchity territorial'no-raspredelennykh informatsionnykh sistem [Method and methodology for evaluating the effectiveness of the protection system of territorial-distributed information systems]. Informatizatsiya i svyaz', 2020, no. 6, pp. 29-36.Гамидов Т. О., Виткова Л. А., Ковцур М. М. Разработка моделей и алгоритмов анализа данных для исследования хода инцидентов и кризисов в социальных сетях // Вестник Санкт-Петербургского государственного университета технологии и дизайна. Серия 1: Естественные и технические науки. 2020. № 2. С. 3–10.Gamidov T.O., Vitkova L.A., Kovtsur M.M. Razrabotka modelei i algoritmov analiza dannykh dlya issledovaniya khoda intsidentov i krizisov v sotsial'nykh setyakh [Development of models and algorithms for data analysis to study the course of incidents and crises in social networks]. Vestnik SanktPeterburgskogo gosudarstvennogo universiteta tekhnologii i dizaina. Seriya 1: Estestvennye i tekhnicheskie nauki, 2020, no. 2, pp. 3-10.

The authors declare that there are no conflicts of interest present.