Пашко, АнатолійАнатолійПашкоПапроцький, ІгорІгорПапроцькийГлибовець, АндрійАндрійГлибовецьТеренчук, СвітланаСвітланаТеренчук2026-06-302026-06-302026-06-05Пашко, А., Папроцький, І., Глибовець, А., Теренчук, С. (2026). Improvements to the circuit breaker prediction model for increasing the fault tolerance of microservices. Bulletin of Taras Shevchenko National University of Kyiv. Physics and Mathematics, 82(1), 2218–2055. https://doi.org/10.17721/1812-5409.2026/1.3010.17721/1812-5409.2026/1.30https://ir.library.knu.ua/handle/15071834/26018In high-load distributed systems, it is crucial to pay strict attention to the reliability of communication between architectural components, making fault tolerance a fundamental property of microservice architecture. While various fault tolerance patterns exist to improve microservice resilience, and their implementations are widely adopted, none are universal for the range of possible failures in service communication. Therefore, there is a continuous need to search for more effective approaches to achieving fault tolerance in distributed software systems. This research is building upon our earlier study, which introduced the Circuit Breaker Prediction Model. The main principle of the Prediction model is to calculate the rating of communication between two services, defined as a convex combination of various performance metrics, and the rating value is then used to determine whether the interaction with the target service can be safely re-established after the period of blocking outgoing requests. Compared to standard implementations of this method, it was specifically designed to reduce the latency involved in blocking request transmission between microservices, especially under uncertain load conditions. The purpose of this paper is to enhance this model and verify its effectiveness when combined with other resilience patterns, particularly Retry and Timeout. The study enhances the flexibility of the Circuit Breaker Prediction Model by describing an adaptable sliding window mechanism that dynamically adjusts the context size based on load conditions at runtime. Also, the algorithm of rating calculation is generalized to enable the usage of any substantial number of performance metrics. Finally, this research conducts simulated experiments with multiple service communication configurations and fault tolerance pattern combinations, using the standard Circuit Breaker implementation as a baseline for comparison. The findings show improved communication performance, mainly due to reduced request transmission delays under the same load conditions. The prospects of applying this model’s principles to other fault tolerance patterns have been discussed, with particular emphasis on the potential of using machine-assisted optimization techniques in dynamic decision making. Pages of the article in the issue: 225 - 236 Language of the article: EnglishУ високонавантажених розподілених системах надзвичайно важливо приділяти особливу увагу надійності комунікації між архітектурними компонентами, що робить відмовостійкість однією з базових властивостей мікросервісної архітектури. Попри наявність різноманітних патернів підвищення відмовостійкості, спрямованих на поліпшення стійкості мікросервісів, жоден із них не є універсальним для всього спектра можливих відмов у сервісній взаємодії. З огляду на це зберігається постійна потреба в пошуку ефективніших підходів до досягнення відмовостійкості в розподілених програмних системах. Спираючись на наше попереднє дослідження, у якому було представлено предиктивну модель Circuit Breaker, пропонована робота детальніше досліджує її застосування для оцінювання ефективності в поєднанні з іншими поширеними патернами відмовостійкості. Центральним принципом предиктивної моделі є обчислення рейтингу комунікації між двома сервісами, визначеного як опукла комбінація різних метрик ефективності. Отримане значення рейтингу використовується для визначення того, чи може взаємодія із цільовим сервісом бути безпечно відновлена після періоду блокування. Подібно до традиційного патерна Circuit Breaker, запропонована модель спрямована на зменшення затримок під час передавання запитів в умовах невизначеного навантаження. Порівняно зі стандартними імплементаціями цього методу модель розроблено з метою скорочення часу блокування викликів між мікросервісами. Метою статті є вдосконалення моделі Circuit Breaker та перевірка її ефективності в поєднанні з іншими патернами відмовостійкості, зокрема Retry та Timeout. У дослідженні розширено гнучкість Circuit Breaker Prediction Model шляхом опису адаптивного механізму ковзного вікна для метрик, що динамічно змінює розмір контексту залежно від навантаження під час роботи застосунку. Також алгоритм обчислення рейтингу було узагальнено, щоб забезпечити можливість використання довільної кількості метрик ефективності. У межах роботи проведено серію симульованих експериментів із різними конфігураціями комунікації між сервісами та комбінаціями патернів відмовостійкості, використовуючи стандартну реалізацію Circuit Breaker як базову для порівняння. Отримані результати показують підвищення продуктивності комунікації насамперед шляхом зменшення затримок у передаванні запитів за однакових умов навантаження. Також розглянуто перспективи застосування принципів цієї моделі до інших патернів відмовостійкості, зокрема з акцентом на можливості використання різноманітних методів оптимізації для підтримки динамічного ухвалення рішень.enmicroservices architecturedistributed systemsfault toleranceresilience patternshigh loadcircuit breakerservice communicationruntime adaptationмікросервісна архітектурарозподілені системивідмовостійкістьпатерни відмовостійкостівисоке навантаженняCircuit Breakerвзаємодія сервісівадаптація під час виконанняСтаття