Библиографическое описание:Минимизация ошибок нейросетевых моделей в библиотечно-издательской сфере: подходы и их эффективность : научное издание / И. С. Рзянкин. - Текст : непосредственный // Современные информационные технологии и ИТ-образование. - 2025. - Т. 21, № 2. - С. 272-286. - ISSN 2411-1473, DOI 10.25559/SITITO.021.202502.272-286.
Аннотация:Внедрение нейросетевых технологий в библиотечно-издательскую сферу открывает значительные перспективы для автоматизации задач поиска, классификации и систематизации информации. Однако одной из ключевых проблем, ограничивающих точность и надёжность таких систем, являются галлюцинации - ошибки генерации, приводящие к созданию недостоверных данных. В данной статье рассматриваются основные причины возникновения галлюцинаций в нейросетевых моделях, используемых в библиотечных системах, и предлагаются методы их минимизации. В рамках исследования проведен анализ распространенных ошибок, возникающих при выполнении библиотечных задач, включая фактологические несоответствия, ошибки библиографических ссылок, некорректные рекомендации и смешение жанров. Для снижения частоты ошибок предложены методы уточнения запросов, включая Chain-of-Thought, Tree-of-Thought, Temperature Scaling, Beam Search и смешанную стратегию. Разработанный метод уточнения запросов позволяет повысить точность поиска и сократить вероятность генерации нерелевантных ответов за счет устранения сленга, улучшения формулировки и добавления уточняющих параметров. Экспериментальная оценка предложенных методов показала, что их применение позволяет снизить частоту галлюцинаций до 95%, а точность выполнения библиотечных задач, таких как поиск автора, фактологическая проверка и рекомендации литературы, существенно возрастает. Представленные результаты подтверждают эффективность предложенного подхода и демонстрируют потенциал его практического использования для повышения надежности библиотечно-издательских нейросетевых систем.
The integration of neural network technologies into the library and publishing sector offers significant opportunities for automating tasks related to information retrieval, classification, and systematization. However, one of the primary challenges limiting the reliability of such systems is the occurrence of hallucinations - generation errors leading to the creation of inaccurate or misleading information. This study examines the key causes of hallucinations in neural network models applied in library systems and proposes effective mitigation strategies. The research focuses on analyzing common errors in library-related tasks, including factual inconsistencies, bibliographic reference errors, incorrect recommendations, and misclassification of genres. To address these issues, a set of optimization techniques has been developed, incorporating query refinement methods, Chain-of-Thought reasoning, Tree-of-Thought, Temperature Scaling, Beam Search, and a hybrid strategy. The proposed query refinement approach improves search accuracy by eliminating informal language, enhancing question formulation, and adding clarifying parameters. An experimental evaluation demonstrated that the proposed methods reduce hallucination frequency by up to 95%, while significantly improving the accuracy of key library tasks such as author identification, factual verification, and literature recommendations. These findings highlight the potential of the proposed approach for enhancing the reliability of neural network systems in the library and publishing industry.
