Translate this page:
Please select your language to translate the article


You can just close the window to don't translate
Library
Your profile

Back to contents

Cybernetics and programming
Reference:

Optimization of cognitive maps used in forecasting

Zhilov Ruslan Al'berdovich

graduate student, Institute for Applied Mathematics

360000, Russia, Kabardino-Balkariya, g. Nal'chik, ul. Shortanova, 89a

kavkaze@inbox.ru

DOI:

10.7256/2306-4196.2015.5.16592

Received:

08-10-2015


Published:

27-11-2015


Abstract: The subject of the study is the need for decision-making in the semi structured dynamic situations, when the parameters, the laws and regularities of the situation are described qualitatively. Those are unique situations, in which the dynamics of the parameters of the situation is combined with the difficulty of predicting changes in its structure. Object of research are cognitive maps or computer systems for modeling cognitive maps. The author considers in detail such aspects of the topics as the complexity of the decision making when the information is insufficient and inaccurate, methods of optimization for cognitive maps used in forecasting. Special attention is paid to the optimization of data dimension algorithm and optimization of the cognitive maps structure. To optimize the dimensions of the data the author uses cluster analysis methods, optimization of the structure of cognitive maps is performed by automatic changing of the weights of the impact of concepts to other machine learning methods. The main conclusion of the study is the decrease in subjectivism of the cognitive map in predicting system. Authors' contributions to the study of the subject is a representation of the cognitive map as a single-layer neural network and the application of methods of neural networks training, proposed by Rosenblatt. The novelty of the study is in the new structure of cognitive maps.


Keywords:

cognitive map, concept, cluster analysis, neural network, machine learning, training set, fuzzy sets, dimension data, Euclidean distance, parameterization


Введение

В процессах управления возникает необходимость принятия решений в слабо структурированных динамических ситуациях, когда параметры, законы и закономерности развития ситуации описываются качественно. Это уникальные ситуации, в которых динамика параметров ситуации сопровождается трудно предсказуемыми изменениями ее структуры.

Для принятия решений в условиях нехватки точной количественной информации экспертам и аналитикам приходится опираться на собственный опыт и интуицию, используя при принятии решений в качестве модели динамической ситуации субъективную модель, основанную на экспертных оценках аналитиков. Для построения такой модели пользуются когнитивными картами или компьютерными системами моделирования когнитивных карт.

Основным понятием теории когнитивных карт является концепт. Концептом называется базовый (неделимый) элемент рассматриваемой системы[1]. Пусть K множество концептов (элементов) рассматриваемой системы, а множество связей, каждая из которых описывает силу влияние одного концепта (концепта-причины) на другой концепт (концепт-следствие). Направленность этой связи означает, что концепт-источник влияет на концепт-приемник, т.е. изменение значений (состояний) концепта-источника приводит к изменению значений (состояний) концепта-приемника.

Деятельность экспертов и аналитиков, направленная на исследование ситуации и принятия решений с помощью когнитивных карт, представляет собой методологию – логико-временную структуру применения различных методов и приемов: построение когнитивной карты, ее параметризация, получение прогнозов развития ситуаций, верификации, корректировки когнитивной карты и принятия решений [2].

Постановка задачи

Для принятия правильного решения в условиях неточной и неполной информации пользуются компьютерными моделями когнитивных карт. Требуется оптимизировать структуру данных путем уменьшения их внутренней размерности методами кластерного анализа и методы подстройки весов влияния концептов друг на друга алгоритмами обучения искусственных нейронных сетей.

Оптимизация входных данных(концептов) когнитивной карты

Построение когнитивной карты и ее параметризация являются самыми важными и сложными этапами и нуждаются в оптимизации. Сложность при построении когнитивной карты выявляется при наличии большого количества входных данных (концептов). Принятие правильного решения в условиях неопределенности и огромного количества входных данных в самоорганизующихся системах напрямую зависит от качественного анализа входных данных и их классификации. Необходимость классификации входных данных по определенным признакам обусловлена тем, что такая процедура уменьшает внутреннюю размерность множества данных, что существенно облегчает построение когнитивной карты для заданной системы. Одним из известных направлений уменьшения внутренней размерности данных является кластеризация данных. Кластерный анализ позволяет разбивать множество данных на конечное число однородных групп.

Из всех методов кластерного анализа самыми распространенными являются иерархические агломеративные методы. Сущность этих методов заключается в том, что на первом шаге каждый объект рассматривается как отдельный кластер. Процесс объединения кластеров происходит последовательно: на основании матрицы расстояний или матрицы сходства объединяются наиболее близкие объекты.

В кластерном анализе каждый объект описывается k признаками, т.е. он может быть представлен как точка в k-мерном пространстве. Сходство с другими объектами будет определяться как соответствующее расстояние. В кластерном анализе используют различные меры расстояния между объектами.

Евклидово расстояние - наиболее общий тип расстояния. Является геометрическим расстоянием между точками в многомерном пространстве:

Pe(xi,xj)=(`sum` (xil-xjl)2)1/2 (1)

где: xi,xj - координаты i-го и j-го объектов в k-мерном пространстве;

xil, xjl - величина l-той компоненты у i-го (j-го) объекта (l=1,2,...,k;i,j=1,2,...,n).

Вычисляя расстояния между точками по формуле (1) строится матрица расстоянии

__

Где Pij– расстояние между i-ым и j-ым объектом[1].

Процесс объединения кластеров происходит последовательно: на основании матрицы расстояний объединяются наиболее близкие объекты одним из методов иерархического кластерного анализа.

В общем виде алгоритм иерархического кластерного анализа можно представить в виде последовательности процедур:

1) Значения исходных переменных нормируются.

2) Рассчитывается матрица расстояний или матрица мер близости.

3) Находится пара самых близких кластеров. По выбранному алгоритму объединяются эти два кластера объединяются. Новому кластеру присваивается меньший из номеров объединяемых кластеров.

4) Пункты 2, 3 и 4 повторяются до тех пор, пока все объекты не будут объединены в один кластер или до достижения заданного "порога" близости.

В результате мы получаем кластеры, элементы которых схожи по определенным признакам и на основании этих кластеров строится когнитивная карта.

Когнитивная карта представляет собой орграф G:=(K,w) , где K-множество вершин графа (концепты), w-множество ребер (связей)[3].

Оптимизация когнитивной карты заключается в том, что она строится не на n-входных данных, а на k , где k<n . Кластеризация данных для построения когнитивной карты при большом количестве входных данных является оптимальной, так как уменьшается количество концептов и количество связей между этими концептами, тем самым сокращается количество операции выполняемых на каждом шаге обработки когнитивной карты. При этом когнитивная карта становится более наглядной и понятной эксперту. Последнее обстоятельство облегчает построение когнитивных карт, работающих в реальном режиме времени.

Оптимизация структуры (весов влияния) когнитивной карты

Следующим этапом является параметризация когнитивной карты, т.е. задание весов связей wij . В существующих методах построения когнитивной карты веса связей влияния задаются экспертом, что существенно увеличивает долю субъективизма в когнитивной карте. Оптимизация данного этапа заключается в автоматической настройке весов влияния концептов друг на друга методами машинного обучения. Когнитивную карту можно представить в виде однослойной нейронной сети. Все входные сигналы подаются всем нейронам. Выходными сигналами сети могут быть все или некоторые выходные сигналы нейронов после нескольких тактов функционирования сети. В качестве обучающей выборки будет выступать состояние системы за предыдущие этапы времени, наборы пар векторов (xi,yi), i=1,...n, т.е. состояние всех концептов, входящих в когнитивную карту на каждом этапе. При обучении на вход будет поступать вектор состоянии концептов на n-1 - ом шаге, а на выходе должен получаться вектор состоянии концептов на n-ом шаге. После многократного представления таких примеров веса стабилизуются. В процессе функционирования сеть формирует выходной вектор y в соответствии с входным вектором x. В зависимости от того как отличается полученный результат от желаемого веса связей настраиваются.

Для обучения когнитивной карты подходит метод обучения однослойных нейронных сетей, предложенный Розенблаттом[4]. Суть метода состоит в итерационной подстройке матрицы весов, последовательно уменьшающей ошибку в выходных векторах. Алгоритм включает несколько шагов:

На первом шаге весам влияния будут считаться случайными величинами между 0 и 1.

На втором шаге на вход подается входной вектор xi в результате на выходе получаем вектор yl , сформированный на основе случайных весов влияния.

На третьем шаге вычисляем вектор ошибки

ai=yi-yl

Дальнейшая идея состоит в том, что изменение вектора весовых коэффициентов в области малых ошибок должно быть пропорционально ошибке на выходе и равно нулю, если ошибка равна нулю.

На четвертом шаге вектор весов модифицируется по формуле

w(t+1)=w(t)+cxiai

Здесь 0<c<1– темп обучения.

Шаги 1-4 повторяются для всех обучающих векторов. Один цикл последовательного предъявления всей выборки называется эпохой. Обучение завершается по истечении нескольких эпох: а) когда итерации сойдутся, т.е. вектор весов перестанет изменяться или б) когда полная, просуммированная по всем векторам абсолютная ошибка станет меньше некоторого малого значения.

Такая процедура оптимизирует веса связей в когнитивной карте для последующего прогнозирования развития системы. Составив когнитивную карту подстраиваем веса влияния алгоритмами обучения однослойных нейронных сетей (обучаем когнитивную карту). Данная процедура делает когнитивную карту более объективной. Единственным условием для корректной подстройки весов является наличие обучающей выборки (данные функционирования системы по которой строится когнитивная карта за предыдущие этапы времени).

Такие же методы оптимизации подходят и для нечетких когнитивных карт, в которых концепты могут принимать значения из диапазона действительных чисел [0,1]. Термин «нечеткие» обозначает только то, что причинные связи (связи взаимовлияния) могут принимать не только значение, равное 0 или 1, а лежат в диапазоне действительных чисел, отражающих «силу» влияния одного концепта на другой[5].

References
1. Avdeeva, Z.K. Kognitivnoe modelirovanie dlya resheniya zadach upravleniya slabostrukturirovannymi sistemami (situatsiyami) // Z.K.Avdeeva, C.B. Kovriga, D.I. Makarenko // Upravlenie bol'shimi sistemami. Vypusk 16 / M.: IPU RAN, 2007. S.26-39.
2. Kulinich A. A. Komp'yuternye sistemy modelirovaniya kognitivnykh kart: podkhody i metody // Control sciences №3 2010 .
3. Kosko V. Fuzzy Cognitive Maps // International Journal of Man-Machine Studies.-1986.-Vol. 1.-P. 65-75.
4. Rozenblatt F. Printsipy neirodinamiki (pertseptron i teoriya me-khanizmov mozga). –M.: Mir, 1965.-480s.
5. Zhilov R. A. Primenenie nechetkikh kognitivnykh kart v sistemakh prinyatiya reshenii //Materialy Vserossiiskoi nauchnoi konferen-tsii molodykh uchennykh «Sovremennye voprosy matematicheskoi fi-ziki, matematicheskoi biologii i informatiki». Nal'chik, 2014. S 54-55.
6. Korobeinikov A.G., Aleksanin S.A. Metody avtomatizirovannoi obrabotki izobrazhenii pri reshenii zadachi magnitnoi defektoskopii // Kibernetika i programmirovanie. - 2015. - 4. - C. 49 - 61. DOI: 10.7256/2306-4196.2015.4.16320. URL: http://www.e-notabene.ru/kp/article_16320.html