Библиографическое описание:Interpretation methods for machine learning models in the framework of survival analysis with censored data: a brief overview = Методы интерпретации моделей машинного обучения в рамках анализа выживаемости при цензурированных данных: краткий обзор / L. V. Utkin, A. V. Konstantinov, D. Yu. Eremenko [et al.]. - (Решение прикладных задач методами искусственного интеллекта). - Текст : непосредственный // Информатика, телекоммуникации и управление = Computing, Telecommunications and Control. - 2024. - Т. 17, № 3: Тематический сборник "Решение прикладных задач методами искусственного интеллекта". - С. 22-31. - Библиогр.: с. 30-31 (21 назв.). - ISSN 2687-0517.
Аннотация:Methods of interpretation, or explanation, of predictions are an integral part of modern black-box machine learning models. They have become widespread due to the need for the user to understand what the machine learning model is predicting. This is especially important for survival analysis models, as they are used in medicine, system reliability, safety, and also have features that make them difficult to explain and interpret. The paper discusses the main methods for interpreting survival models that deal with censored data and determine the characteristics of the time until a certain event. A feature of such models is that their predictions are presented not as a point value, but as a probabilistic function of time, for example, a survival function or a risk function. This requires the development of special interpretation methods. The most well-known methods SurvLIME, SurvLIME-KS, SurvNAM and SurvBeX, SurvSHAP (t) are considered, which are based on the use of LIME and SHAP interpretation methods, the Cox model and its modifications, as well as the Beran estimator.
Методы интерпретации, или объяснения, предсказаний являются неотъемлемой частью современных моделей машинного обучения типа "черный ящик". Они получили широкое распространение, что обусловлено необходимостью понимания пользователем того, что предсказывает модель машинного обучения. Это особенно относится к моделям анализа выживаемости, так как они используются в медицине, надежности, безопасности, а также имеют особенности, которые усложняют их объяснение и интерпретацию. В работе рассматриваются основные методы интерпретации моделей выживаемости, которые оперируют с цензурированными данными и определяют характеристики времени до определенного события. Особенностью таких моделей является то, что их предсказания представляются не в виде некоторого точечного значения, а в виде вероятностной функции времени, например, функции выживаемости или функции риска. Это требует необходимости разработки специальных методов интерпретации. Рассмотрены наиболее известные методы SurvLIME, SurvLIME-KS, SurvNAM и SurvBeX, SurvSHAP (t), которые основаны на использовании методов интерпретации предсказаний LIME и SHAP, модели Кокса и ее модификации, а также оценки Берана.
Ключевые слова:censored data, explicable artificial intelligence, machine learning, machine learning models, probabilistic functions of time, reviews, survival models (computing), вероятностные функции времени, машинное обучение, модели выживаемости (вычислительная техника), модели машинного обучения, обзоры, объяснимый искусственный интеллект, цензурированные данные
Рубрики:Радиоэлектроника, Искусственный интеллект. Экспертные системы, Вычислительная техника, Прикладные информационные (компьютерные) технологии в целом
ISSN:2687-0517
Идентификаторы:полочный индекс J 10, шифр /J 10-822890
