10 декабря 2025 года в ИПМА КБНЦ РАН состоялся научно-исследовательский семинар по современному анализу, информатике и физике

С докладом выступила Лариса Лютикова, заведующая НИМО ИПМА КБНЦ РАН. Тема презентации — «Логико-алгебраические методы интерпретации решений интеллектуальных систем».

В докладе подчёркивалось, что современные модели машинного обучения и обучения с подкреплением, несмотря на высокую эффективность, часто функционируют как «чёрные ящики», что неприемлемо для критически важных областей, таких как медицина, управление рисками и транспорт. Здесь необходимы объяснимость, ответственность и верифицируемость принимаемых решений, чтобы обеспечить доверие и безопасность.

Лютикова представила разработку и экспериментальную апробацию логико-алгебраического метода построения формальных интерпретируемых моделей, которые аппроксимируют поведение произвольных «чёрных ящиков» (нейросетей, RL-агентов) и позволяют проводить их глобальный и локальный анализ. Разработанный логико-алгебраический аппарат трансформирует неинтерпретируемые модели в формальные логические конструкции, допускающие строгий анализ, верификацию и генерацию понятных предметным экспертам правил.