Майборода, РостиславРостиславМайборода0000-0002-6529-0788Сугакова, ОленаОленаСугакова2026-06-302026-06-302025-12-23Майборода, Р., Сугакова, О. (2025). Bandwidth selection for density estimation by mixture with varying concentrations. Bulletin of Taras Shevchenko National University of Kyiv. Physics and Mathematics, 81(2), 41–46. https://doi.org/10.17721/1812-5409.2025/2.610.17721/1812-5409.2025/2.6https://ir.library.knu.ua/handle/15071834/25754Finite mixture models arise in statistics of biological and medical data when the investigated subjects belong to sub-populations with different distributions of observed variable. In the model of mixture with varying concentrations (MVC) the concentrations of the mixture components can vary from observation to observation. We consider estimation of a probability density for a mixture component in MVC by a modification of the kernel density estimator (KDE). To apply KDE one needs to select a tuning parameter named the bandwidth. Two approaches to the bandwidth selection are considered. The first one is a modification of the Silverman‘s rule of thumb. The second one is a version of the leave-one-out cross-validation algorithm. We present results of simulation which show that both algorithms demonstrate similar behavior for nearly Gaussian densities and the cross-validation outperforms the Silverman‘s rule of thumb on highly non-Gaussian densities. Pages of the article in the issue: 41 - 46 Language of the article: EnglishСтатиcтичні дані біологічних і медичних досліджень часто являють собою суміш спостережень об’єктів, що належать різним підпопуляціям з різними статистичними властивостями спостережуваних характеристик. Такі дані зручно описувати математичними моделями скінченних сумішей. У пропонованій роботі для опису даних використано модель суміші зі змінними концентраціями (СЗК), у якій концентрації компонентів можуть змінюватись від спостереження до спостереження. Розглянуто задачу непараметричного оцінювання щільності розподілу окремої компоненти суміші в межах моделі СЗК. Для цього використовується модифікована ядерна оцінка щільності (ЯОЩ). Практичне застосування ЯОЩ потребує вибору параметра згладжування. У статті запропоновано два підходи до такого вибору: на основі модифікованого правила Сілвермана і за допомогою алгоритму кросвалідації, адаптованого до СЗК. Якість отриманих оцінок порівнюється за допомогою імітаційного моделювання. Результати моделювання показують, що у випадку щільностей, близьких до гауссових, обидва підходи дають майже однакові результати. Для щільностей, які відрізняються від гауссових, вибір параметра згладжування на основі модифікованої кросвалідації дає значно кращі результати, ніж на основі правила Сілвермана.enfinite mixture modelvarying concentrationskernel density estimatorbandwidth selectionSilwerman’s rule of thumbleave-one-out cross-validationмодель скінченної сумішізмінні концентраціїядерна оцінка щільностівибір параметра згладжуванняправило СілверманакросвалідаціяBandwidth selection for density estimation by mixture with varying concentrationsВибір параметра згладжування для ядерної оцінки за спостереженнями із сумішіСтаття