Вибір параметра згладжування для ядерної оцінки за спостереженнями із суміші

Майборода, Р., Сугакова, О. (2025). Bandwidth selection for density estimation by mixture with varying concentrations. Bulletin of Taras Shevchenko National University of Kyiv. Physics and Mathematics, 81(2), 41–46. https://doi.org/10.17721/1812-5409.2025/2.6

Статиcтичні дані біологічних і медичних досліджень часто являють собою суміш спостережень об’єктів, що належать різним підпопуляціям з різними статистичними властивостями спостережуваних характеристик. Такі дані зручно описувати математичними моделями скінченних сумішей. У пропонованій роботі для опису даних використано модель суміші зі змінними концентраціями (СЗК), у якій концентрації компонентів можуть змінюватись від спостереження до спостереження. Розглянуто задачу непараметричного оцінювання щільності розподілу окремої компоненти суміші в межах моделі СЗК. Для цього використовується модифікована ядерна оцінка щільності (ЯОЩ). Практичне застосування ЯОЩ потребує вибору параметра згладжування. У статті запропоновано два підходи до такого вибору: на основі модифікованого правила Сілвермана і за допомогою алгоритму кросвалідації, адаптованого до СЗК. Якість отриманих оцінок порівнюється за допомогою імітаційного моделювання. Результати моделювання показують, що у випадку щільностей, близьких до гауссових, обидва підходи дають майже однакові результати. Для щільностей, які відрізняються від гауссових, вибір параметра згладжування на основі модифікованої кросвалідації дає значно кращі результати, ніж на основі правила Сілвермана.