Библиографическое описание:Предельно просто не значит предельно ясно: некоторые контринтуитивные результаты нейросетевого моделирования рефлексии : научное издание / Г. М. Маркова, С. И. Барцев. - Текст : непосредственный // Информационные и математические технологии в науке и управлении. - 2025. - № 1. - С. 5-15. - Работа поддержана грантом РНФ, Красноярского краевого фонда науки №23-21-10041 «Иерархия функциональных аттракторов в нейросетевых моделях рефлексии». - ISSN 2413-0133, DOI 10.25729/ESI.2025.37.1.001.
Аннотация:В работе представлен ряд результатов по моделированию рефлексии, понимаемой в широком смысле, как наличие у активного агента внутреннего отображения внешнего мира, влияющего на его поведение. Выявлена способность простейших нейросетевых модельных объектов гомогенной и гетерогенной (модульной) структуры к решению задач, требующих наличия и использования устойчивых внутренних отображений (репрезентаций) внешних стимулов. Определено, что данные репрезентации являются декодируемыми, т.е. по текущему виду паттерна нейронной активности нейросетевого объекта возможно определить, какой конкретно стимул или временной ряд стимулов в данный момент в нём обрабатывается. Приведены изначальные предположения авторов, сделанные из общих соображений относительно эффективности нейросетевых модельных объектов различной структуры в задачах на рефлексию, и соответствующие полученные результаты. В частности, показаны следующие эффекты: 1) позиции в игре чет-нечет асимметричны при условии ограниченности вычислительных возможностей игроков; 2) формально близкие задачи на рефлексию (игра чет-нечет и реагирование на фиксированные временные ряды стимулов по правилам этой игры) различаются по требованиям к игрокам; 3) декодируемыми являются паттерны нейронной активности не только нейронных сетей, обученных реагированию на стимулы, но и сетей со случайными весовыми коэффициентами; 4) точность декодирования нейронной активности рекуррентных нейронных сетей, обладающих гетерогенностью во времени, превосходит точность отклика этих сетей при реагировании на ряды стимулов; 5) паттерны нейронной активности у гомогенных рекуррентных нейронных сетей сложнее для декодирования, чем у гетерогенных сопоставимого размера. Данные эффекты иллюстрируют богатую внутреннюю и поведенческую динамику простейших рекуррентных нейронных сетей, что, с одной стороны, перспективно для исследовательских и практических целей, а с другой - затрудняет предсказание и интерпретацию поведения объектов подобного рода.
The paper presents results on modeling reflection, understood in a broad sense as the presence of an internal representation of the external world in an active agent that influences its behavior. The ability of the simplest neural network model objects of homogeneous and heterogeneous (modular) structure to solve tasks requiring the presence and use of stable internal representations of external stimuli is revealed. It is determined that these representations are decodable, i.e. based on the current type of neural activity pattern of a neural network, it is possible to determine which specific stimulus or time series of stimuli is currently being processed in it. The authors' initial assumptions made on the basis of general considerations regarding the effectiveness of neural networks of various structures in reflection tasks and the corresponding results are presented. In particular, the following effects are shown: 1) positions in the odd-even game are asymmetric under the condition of limited computational capabilities of the players; 2) formally similar tasks on reflection (the odd-even game and responding to fixed time series of stimuli according to the rules of this game) differ in the requirements for players; 3) decodable patterns of neural activity present not only in neural networks trained to respond to stimuli, but also in networks with random weight coefficients; 4) the accuracy of decoding the neural activity of recurrent neural networks with temporal heterogeneity exceeds the accuracy of the response of these networks when processing series of stimuli; 5) patterns of neural activity in homogeneous recurrent neural networks are more difficult to decode than in heterogeneous networks of comparable size. These effects illustrate the rich internal and behavioral dynamics of the simplest recurrent neural networks, which, on the one hand, is promising for research and practical purposes, and on the other hand, complicates the prediction and interpretation of their behavior.
Издательство:Институт систем энергетики им. Л.А. Мелентьева СО РАН, Иркутск
Источник:Информационные и математические технологии в науке и управлении
Выпуск:№ 1
Номера страниц:5-15
Держатель оригинала документа:Институт биофизики СО РАН - обособленное подразделение ФИЦ КНЦ СО РАН, Сибирский федеральный университет, Институт фундаментальной биологии и биотехнологий
Количество экземпляров:
Твёрдая копия издания отсутствует в фонде библиотеки
