Научная лаборатория ИИ, анализа данных и моделирования имени профессора А. Н. Горбаня

Проблема ошибок искусственного интеллекта становится все более актуальной. Ошибки неизбежно сопровождают ИИ, однако полное переобучение крупных систем для исправления каждой из них практически невозможно. В связи с этим была разработана вероятностная основа для быстрой и неразрушающей коррекции ошибок в системах ИИ.

Предложенные новые теоремы обеспечивают инструменты для оперативной, неитеративной коррекции ошибок в уже работающих системах. Совместно с И. Ю. Тюкиным разработаны подходы, эффективные для высокоразмерных задач, которые позволяют корректировать многомерные системы в многомерной среде.

Исследования показали, что ремонтопригодность ИИ часто связана с его уязвимостью к злонамеренным атакам. Были разработаны и проанализированы новые типы атак, дающие злоумышленникам возможность контролировать решения универсальных систем ИИ, включая нейронные сети глубокого обучения. Одновременно ведется работа над стратегиями, минимизирующими риск эксплуатации таких уязвимостей.

Часть этих результатов была представлена А. Н. Горбанем в приглашенном пленарном докладе на Всемирном конгрессе IEEE по вычислительному интеллекту (Глазго, 2020). Получены были патенты, поэтому работы активно развиваются, включая расширение областей применения и создание надежного и устойчивого ИИ. Особое внимание уделяется разработке многоагентных систем с гетерогенными популяциями агентов.

В период 1987—1999 годов была разработана система методов, предназначенная для ускоренного обучения нейронных сетей и извлечения явных знаний из данных с их помощью. Программное обеспечение, реализующее эти методы, нашло широкое применение в России, особенно в области медицинской нейроинформатики.

Эти разработки также применялись в создании систем безопасности, демонстрируя универсальность подходов. Результаты работы были опубликованы в ряде книг и статей, поддержаны грантами федеральных целевых программ и Министерства науки и технологий. За этот цикл исследований Российская ассоциация нейроинформатики совместно с оргкомитетом 19 ежегодных международных конференций «Нейроинформатика-1999−2017» удостоила А. Н. Горбаня почетного звания «Пионер российской нейроинформатики».

Обзор результатов был опубликован по специальному запросу в журнале, где изначально были представлены проблемы Гильберта:
A. N. Gorban, I. Karlin, Hilbert’s 6th Problem: exact and approximate hydrodynamic manifolds for kinetic equations, Bulletin of the American Mathematical Society, 51(2), 2014, 186−246.

Эти работы получили признание в научном сообществе. Их описание для широкой аудитории появилось в различных публикациях, включая популярный журнал QuantaMagazine:
Wolchover N. (2015). Famous fluid equations are incomplete: a115-year effort to bridge the particle and fluid descriptions of nature has led mathematicians to an unexpected answer. Quanta Magazine.

В процессе решения шестой проблемы Гильберта была разработана система методов для решения многомерных задач неравновесной кинетики и термодинамики. Исследования в этом направлении продолжаются. Одна из целей — переход к более широкому пониманию шестой проблемы Гильберта. Это включает изучение возможностей создания доказуемых моделей в физике и применения методов искусственного интеллекта для поиска таких моделей.

Была разработана классификация бифуркаций (взрывов) предельных множеств, а также изучена взаимосвязь между этими бифуркациями и особенностями времени релаксации. Созданная теория стала ответом на вызовы, связанные с наблюдаемыми медленными переходными процессами в гетерогенно-каталитических реакциях, и впоследствии была применена к различным предметным областям, таким как физика, экология и физиология.

Одним из последних направлений использования этих разработок стала теория клеточного интеллекта, демонстрирующая универсальность и широкие возможности подхода.

В ходе исследований была разработана иерархия показателей стресса и динамических моделей адаптации. Эти модели позволяют прогнозировать такие явления, как колеблющаяся смерть и колеблющаяся ремиссия.

Обзор по результатам работ 1987−2020 годов был опубликован в журнале Physics of Life Review (Volume 37, July 2021, Pages 17−64), одном из наиболее цитируемых журналов мира в области биофизики. Обзор подготовлен в соавторстве с группой учеников. В томах 37 и 38 этого же журнала были опубликованы материалы широкого обсуждения этих результатов ведущими мировыми экспертами.

Методы аппроксимации данных с использованием главных графов, основанные на инновационной технологии топологических грамматик, оказались особенно эффективными при обработке современных «одноклеточных» данных (single-cell omics). Совместно с Институтом Кюри, Гарвардским университетом, Медицинской школой Гарварда, Массачусетским технологическим институтом и другими партнерами было разработано программное обеспечение, которое активно используется исследовательскими группами для анализа таких данных.

Одним из ключевых приложений этой работы стала полуконтролируемая методология динамического фенотипирования для больших наборов клинических данных. Этот подход позволяет строить траектории развития пациентов (патологические сценарии) с качественной оценкой неопределенности прогнозов.

Соавтор этих работ, Сусанна Гордлеева, была удостоена премии Президента России в области науки и инноваций для молодых ученых в 2023 году.