Тюрдьо, ІванІванТюрдьоКізілова, НаталіяНаталіяКізілова2026-06-302026-06-302025-12-23Тюрдьо, І., Кізілова, Н. (2025). The application of machine learning methods in modern cancer therapy. Bulletin of Taras Shevchenko National University of Kyiv. Physics and Mathematics, 81(2), 217–226. https://doi.org/10.17721/1812-5409.2025/2.3410.17721/1812-5409.2025/2.34https://ir.library.knu.ua/handle/15071834/25762The purpose of this study is to analyze modern approaches to assessing the efficacy and safety of drugs used in anti-cancer therapy using machine learning methods. Particular attention is paid to the prospects of implementing such methods in mathematical oncology, a field that actively uses mathematical modeling and computer simulations in oncological research. As part of the study, we searched for and studied relevant scientific sources on the application of machine learning in oncology. As a result, a systematic review of the literature covering the use of machine learning in this area was conducted. The main machine learning approaches, such as Supervised Learning (SL), Unsupervised Learning (UL), and Reinforcement Learning (RL), are analyzed in the context of modern oncology. Specific examples of the use of various machine learning algorithms in research related to cancer treatment, as well as more general oncological problems, are considered. The advantages and limitations of these approaches are assessed depending on the goals set, for example, in such tasks as predicting treatment response, biomarker identification, and automated medical image analysis. The study found that machine learning is already being actively implemented in oncology research and demonstrates high efficiency in solving various problems, in particular, identifying hidden patterns that are not available in traditional analysis. At the same time, it is noted that there are numerous other areas where the use of machine learning can significantly enhance scientific research and clinical practice. In particular, the use of reinforcement learning algorithms in the field of personalized precision medicine, which plays a key role in creating individualized approaches to cancer treatment, looks promising. Pages of the article in the issue: 217 - 226 Language of the article: UkrainianМетою пропонованого дослідження є аналіз сучасних підходів до оцінювання ефективності та безпечності лікарських засобів, які застосовують в антираковій терапії, із використанням методів машинного навчання. Особливу увагу приділено перспективам упровадження таких методів у математичну онкологію – галузь, що активно використовує математичне моделювання та комп'ютерні симуляції в онкологічних дослідженнях. У межах роботи було здійснено пошук і вивчення актуальних наукових джерел, присвячених застосуванню машинного навчання в онкології. Також проведено систематичний огляд літератури, що висвітлює використання машинного навчання у цій сфері. Проаналізовано основні підходи машинного навчання, такі як контрольоване навчання (Supervised Learning, SL), неконтрольоване навчання (Unsupervised Learning, UL) та навчання з підкріпленням (Reinforcement Learning, RL) у контексті сучасної онкології. Розглянуто конкретні приклади використання різних алгоритмів машинного навчання в дослідженнях, пов'язаних із лікуванням раку, а також загальніших онкологічних задач. Оцінено переваги й обмеження цих підходів залежно від поставлених цілей, наприклад у таких, як задачі прогнозування відповіді на лікування, ідентифікація біомаркерів, автоматизований аналіз медичних зображень. За результатами роботи встановлено, що машинне навчання вже активно впроваджується в онкологічні дослідження та демонструє високу ефективність у розв'язанні різноманітних задач, зокрема виявляє приховані закономірності, що недоступно за традиційного аналізу. Водночас відзначено, що існують ще численні напрями, де застосування машинного навчання може суттєво посилити наукові розробки та клінічну практику. Зокрема, перспективним є використання алгоритмів навчання з підкріпленням у сфері персоналізованої прецизійної медицини, що відіграє ключову роль у створенні індивідуалізованих підходів до лікування онкологічних хвороб.enmathematical modelingsupervised learningunsupervised learningreinforcement learningprecision medicinepersonalized therapyМатематичне моделюванняконтрольоване навчаннянеконтрольоване навчаннянавчання з підкріпленнямпрецизійна медицинаперсоналізована терапіяСтаття