Программный инструмент автоматизированного тестирования безопасности моделей машинного обучения

Наименование РИД	Программный инструмент автоматизированного тестирования безопасности моделей машинного обучения
Реферат	Программный комплекс предназначен для автоматизированного тестирования устойчивости моделей машинного обучения к внешним воздействиям и атакам. Он должен выявлять уязвимости различных типов моделей, включая генеративные и классические, с применением как white-box, так и black-box методов тестирования. Управление запуском осуществляется через конфигурационные файлы или интерактивный интерфейс. Результаты оформляются в виде наглядных отчётов с визуализацией и статистикой успешности атак. Комплекс обеспечивает интеграцию в процессы непрерывного тестирования и развёртывания, работу в контейнерной среде и ведение полного журнала операций.
Возможные направления использования	Программный комплекс может использоваться для проверки устойчивости и безопасности моделей машинного обучения, интеграции в процессы тестирования и разработки, а также в качестве инструмента аудита и обучения в области защиты искусственного интеллекта.
Количество опытных образцов	0
Количество просмотров	3
Наличие дополнительных файлов	False
Использование РИД правообладателем	False
Внешнее использование РИД	False
НИОКТР (JSON)	{}
ИКСИ (JSON)	[]
ИКСПО (JSON)	[{"last_status": {"created_date": "2025-12-15T13:16:07.096835+00:00", "registration_number": "825121500154-6", "status": {"name": "Подтверждена"}}, "copyright_protections": [{"protection_way": {"name": "Осуществлена государственная регистрация"}}]}]
ОЭСР (JSON)	[]
Дата первого статуса	2025-10-22T10:06:00.843205+00:00
Предполагаемый тип результата	Программа для ЭВМ
Ожидаемая роль	Исполнитель
Заказчик	МИНИСТЕРСТВО ЭКОНОМИЧЕСКОГО РАЗВИТИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ
Руководитель работы	Сергеев Антон Валерьевич
Руководитель организации	Соколов Игорь Владимирович
Регистрационный номер НИОКТР	125080409311-2
Последний статус	Подтверждена, 625112800026-3, 2025-11-28 05:14:58 UTC
ОКПД	Услуги, связанные с научными исследованиями и экспериментальными разработками в области компьютерных наук и информационных технологий
Ключевые слова	МАШИННОЕ ОБУЧЕНИЕ; БЕЗОПАСНОСТЬ; ГЕНЕРАТИВНЫЙ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ; ТЕСТИРОВАНИЕ УСТОЙЧИВОСТИ
Исполнители	ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ УНИВЕРСИТЕТ "ВЫСШАЯ ШКОЛА ЭКОНОМИКИ"
Авторы	Петрованов Илья Сергеевич; Солдатов Алексей Валерьевич; Минченков Виктор Олегович; Башун Владимир Владимирович; Шульгин Михаил Алексеевич; Сергеев Антон Валерьевич
Коды тематических рубрик	28.23.25 - Модели и системы обучения
OESR	Компьютерные, информационные науки и биоинформатика (разработка аппаратного обеспечения относится к разделу 2.2, социальный аспект относится к разделу 5.8)
Приоритеты научно-технического развития	а) переход к передовым технологиям проектирования и создания высокотехнологичной продукции, основанным на применении интеллектуальных производственных решений, роботизированных и высокопроизводительных вычислительных систем, новых материалов и химических соединений, результатов обработки больших объемов данных, технологий машинного обучения и искусственного интеллекта;; д) противодействие техногенным, биогенным, социокультурным угрозам, терроризму и экстремистской идеологии, деструктивному иностранному информационно-психологическому воздействию, а также киберугрозам и иным источникам опасности для общества, экономики и государства, укрепление обороноспособности и национальной безопасности страны в условиях роста гибридных угроз;