Гайша, O.O.O.O.ГайшаЛєнков, С.В.С.В.Лєнков2026-06-162026-06-162025-05-20Гайша, O., Лєнков, С. (2025). ON THE CAPABILITIES OF MODERN NEURAL NETWORKS AS A MEANS OF ARTIFICIAL INTELLIGENCE. Збірник наукових праць Військового інституту Київського національного університету імені Тараса Шевченка(86), 69–78. https://doi.org/10.17721/2519-481X/2025/86-0810.17721/2519-481X/2025/86-08https://ir.library.knu.ua/handle/15071834/23358This article provides a comprehensive analysis of the potential and limitations of artificial intelligence (AI), with a particular focus on its capacity to generate novel scientific and technical solutions.The central thesis of the article rests on the analysis of AI systems as approximators – mathematical constructs that map sets of input variables to corresponding outputs based on training data. Artificial neural networks (ANNs), in particular, are identified as the most prominent and flexible form of such approximators. Through a detailed mathematical framework, the study illustrates how these systems are trained on structured datasets to form a functional mapping y=F(x), and how their predictive capabilities are divided into two categories: interpolation and extrapolation.A core example used throughout the work involves training a neural network on a simple quadratic dataset and analyzing its ability to generalize (interpolate) within the known data range, versus its tendency to fail when extrapolating beyond this domain.The discussion then transitions to modern AI applications, particularly transformer-based large language models (LLMs) like ChatGPT, which, although structurally more complex, remain conceptually similar to traditional feedforward neural networks. These models can interpolate within an extensive informational domain with impressive fluency and creativity, generating coherent outputs by recombining previously seen elements. An illustrative case compares this process to generating a fictional story from known character archetypes and narrative structures, potentially yielding combinations that are original but still rooted within known patterns.This principle is further extended to scientific and engineering applications, where AI may recombine known physical, chemical, or mechanical principles to suggest viable new inventions. For example, by combining known types of forces, fuels, and energy conversion methods, a neural network could propose novel engine designs – some of which may be genuinely innovative. These processes mirror traditional methodologies in morphological analysis and TRIZ (Theory of Inventive Problem Solving), but are significantly enhanced by the processing speed and scale of modern AI.However, the article also emphasizes the inherent limitations of current AI systems. While they are highly effective within the bounds of interpolation, their capacity to generate valuable outputs in extrapolative scenarios – those requiring a leap beyond known data – is fundamentally flawed. This limitation is not only theoretical but practically observable in the phenomenon of hallucination in large language models.In conclusion, the article argues that interpolation-based innovation – producing new but logically grounded combinations of existing knowledge – is well within the reach of today’s AI systems and may yield real scientific or technical breakthroughs when human researchers have not yet explored such possibilities. However, true extrapolation, or the generation of fundamentally new theories and concepts beyond the known knowledge domain, remains largely inaccessible to neural-network-based architectures. To achieve this, future AI systems must adopt hybrid approaches, combining neural models with deterministic logic, heuristic reasoning, or other cognitive frameworks capable of venturing beyond learned experience. These hybrid architectures hold the potential to not only mimic but meaningfully extend the boundaries of human creativity and scientific discovery.У статті подано ґрунтовний аналіз потенціалу та обмежень штучного інтелекту (ШІ), з особливим акцентом на його здатність генерувати нові наукові й технічні рішення. Основна теза дослідження полягає в розгляді систем штучного інтелекту як апроксиматорів – математичних конструкцій, що встановлюють відповідність між множинами вхідних змінних і відповідними вихідними значеннями на основі тренувальних даних. Серед усіх типів апроксиматорів найпомітнішими та найгнучкішими визнаються штучні нейронні мережі (ШНМ). У статті на основі докладного математичного апарату проілюстровано, як такі системи навчаються на структурованих вибірках даних для формування функціональної залежності вигляду y=F(x), а також показано, що їх прогностичні можливості умовно поділяються на дві категорії: інтерполяція та екстраполяція.У межах дослідження базовим прикладом є навчання нейронної мережі на простій квадратичній вибірці та аналіз її здатності до узагальнення (інтерполяції) в межах відомого інформаційного простору, на противагу її обмеженій здатності до екстраполяції – прогнозування за межами цього простору.Далі обговорення переходить до сучасних застосувань ШІ, зокрема до великих мовних моделей (LLMs), побудованих на архітектурі трансформерів, таких як ChatGPT. Попри їх значно вищу структурну складність, концептуально вони залишаються подібними до класичних мереж прямого поширення сигналу. Ці моделі здатні з великою мовною гнучкістю та креативністю виконувати інтерполяцію у величезному інформаційному просторі, генеруючи зв’язні тексти шляхом перекомбінування раніше відомих елементів. Ілюстративний приклад у статті зіставляє цей процес із побудовою художньої історії на основі заданих архетипів персонажів і сюжетних структур, результатом чого можуть бути нові, але все ж укорінені у вже відомому знанні комбінації.Цей самий принцип переноситься на сферу наукових та інженерних задач, де ШІ може створювати нові варіанти технічних рішень, комбінуючи відомі фізичні, хімічні чи механічні принципи. Наприклад, шляхом комбінування типів сил, джерел енергії та способів її використання, мережа може запропонувати новий тип двигуна, що потенційно має реальну прикладну цінність. Подібні підходи нагадують методи морфологічного аналізу та теорії розв’язання винахідницьких задач (ТРВЗ), проте суттєво перевершуються завдяки швидкодії та масштабності сучасних AI-систем.Разом із тим, автори акцентують на внутрішніх обмеженнях сучасних архітектур ШІ. Попри високу ефективність в інтерполяційних завданнях, здатність до продуктивної екстраполяції – тобто генерації результатів за межами наявного інформаційного простору – залишається критично недостатньою. Це не лише теоретичне припущення, а й емпірично підтверджений факт, зокрема через явище галюцинацій у великих мовних моделях. В таких випадках, отримавши запит, що виходить за межі знань моделі, система вигадує факти або неіснуючі дані, створюючи текст, який на перший погляд виглядає правдоподібно, але не має наукової достовірності.У висновку стверджується, що інтерполяційна інновація – тобто генерація нових, але логічно обґрунтованих комбінацій уже наявних знань – цілком доступна сучасним системам ШІ. У ряді випадків такі рішення можуть мати істинну наукову або технічну новизну, особливо коли ці поєднання з певних причин ще не були запропоновані дослідниками. Водночас справжня екстраполяція, тобто створення фундаментально нових теорій або концепцій, поки що залишається поза межами можливостей ШІ на базі нейронних мереж.Для досягнення такого рівня інтелектуальної діяльності необхідно розробляти гібридні системи, які поєднують нейромережеві підходи з детермінованою логікою, евристичними методами або іншими когнітивними структурами, здатними виходити за межі набутих знань. Саме ці гібридні архітектури мають потенціал не лише імітувати, а й якісно розширити межі людської творчості та наукового пізнання.enштучний інтелектнейронні мережіінтерполяціяекстраполяціяапроксиматориінженерні задачінаукові задачіartificial intelligenceneural networksinterpolationextrapolationapproximatorsengineering problemsscientific problemsСтаття