Translate this page:
Please select your language to translate the article


You can just close the window to don't translate
Library
Your profile

Back to contents

Cybernetics and programming
Reference:

Educational proving ground for elaboration of technologies of exact time distribution

Borodin Andrey Viktorovich

PhD in Economics

Professor, Department of Computer Science and System Programming, Volga State University of Technology

424000, Russia, respublika Marii El, g. Ioshkar-Ola, pl. Lenina, 3

bor@mari-el.com
Other publications by this author
 

 
Varlamov Aleksandr Sergeevich

student, Volga State University of Technology

424006, Russia, Marii El, g. Ioshkar-Ola, ul. Solov'eva, 2-a, kv. 117

i.sasha.varlamov@gmail.com
Korablev Danil Viktorovich

student, Volga State University of Technology

424020, Russia, respublika Marii El, g. Ioshkar-Ola, ul. Krasnoarmeiskaya, 84, kv. 48

privet.ya.dan@gmail.com

DOI:

10.7256/2306-4196.2015.3.15438

Received:

30-05-2015


Published:

14-06-2015


Abstract: The paper deals with technologies of distribution of exact time in the data communication networks. In particular the technologies based on the Network Time Protocol (NTP) are considered. It is important to point out that this article has especially practical character, it is reviewing an implementation of a proving ground of testing of appropriate technologies. By proving ground the authors mean a set of software and hardware solutions which can be used in case of implementation of technology, and which can be integrated by any principle in rather independent stends. The composition of the stends which are a part of a polygon is considered. Examples of the organization of subnets - clients of system of distribution of exact time are given. The optimal version of the logical organization of a subsystem of time synchronization is offered. Ways of further development of a proving ground are planned. A methodological basis of this research is an experiment. The proving ground allows to simulate a huge number of configurations of the subsystem of distribution of exact time and to measure the different parameters of this subsystem. Auxiliary methodology of this research is the methodology of simulation modeling allowing to create optimum configurations for the purpose of practical confirmation of their relative efficiency. The proposed technical solution of the educational proving ground has no domestic analogs: it is unique both as a set ot technical means for support of educational process and from the point of view of creation of complexes of support of scientific researches in the field of distribution of exact time. Authors also present original solutions in the proving ground, monitoring of the environment and separate components of the equipment.


Keywords:

IT infrastructure, standards of time, clock synchronization, distribution of exact time, multiservice networks, GPS, NTP, PTP, Sync Ethernet, Petri net


Введение

Современные крупномасштабные мультисервисные сети передачи данных (МСПД) немыслимы без таких подсистем, как подсистема безопасности, службы мониторинга и диагностики неисправностей, а также, в ряде случаев, таких как подсистема динамической ремаршрутизации. Важно обратить внимание на то, что ни одна из названных подсистем не может функционировать без наличия в МСПД службы точного времени.

В современных МСПД служба точного времени базируется, как правило, на протоколе Network Time Protocol (NTP) [1]. Кроме того, в последние годы начинается внедрение технологий, основанных на протоколах Precision Time Protocol (PTP) [2] и Sync Ethernet [3]. Однако эти технологии в Российской Федерации являются пока скорее экспериментальными. Поэтому рассмотрим более подробно ситуацию с NTP.

Основными игроками на рынке разработки и производства специализированных NTP-серверов являются американские компании Symmetricom и Spectracom, а также отчасти Trimble и Communication Systems Solutions, немецкий рынок NTP-решений представлен компанией Meinberg. Безусловный лидер на этом рынке – Symmetricom (в настоящее время, в результате слияния, данная компания входит в состав такого гиганта американской радиоэлектронной промышленности, как Microsemi). Следует отметить, что стоимость специализированных серверов времени названных копаний достаточно высока и сопоставима между собой при близких технических характеристиках, однако их использование часто оказывается целесообразным [4]. Учитывая значительный масштаб большинства региональных МСПД, приходится использовать не один источник точного времени, а несколько, распределенных по узлам МСПД. В этих условиях чрезвычайно важной становиться задача снижения совокупной стоимости владения подсистемой дистрибуции точного времени, как составной части совокупной стоимости владения МСПД [4, 5, 6].

При решении задач снижения совокупной стоимости владения подсистемой дистрибуции точного времени используется целый ряд подходов. Это и имитационное моделирование подсистемы дистрибуции времени МСПД [7] с целью оптимизации ее структуры, и стендовые испытания с виртуализацией компонентов МСПД [8], а также всестороннее исследование рынка оборудования [9]. Тем не менее, все эти подходы не обеспечивают 100%-ного решения поставленной задачи. Необходимы натурные испытания. Важно оценить параметры надежности реальных элементов системы дистрибуции точного времени, исследовать взаимное влияние этих элементов, а также влияние окружающей среды, включая градостроительный аспект, на все компоненты системы.

Принципы создания полигона

Все вышесказанное обосновывает необходимость и целесообразность создания учебно-испытательного полигона отработки технологий дистрибуции точного времени. Сформулируем требования, которые должны быть учтены при создании такого полигона.

1. Непрерывный режим работы полигона. Некоторые эксперименты, например, оценка долговременной нестабильности эталонных генераторов частоты, требуют значительных временных затрат – год и более непрерывной работы. С другой стороны, непрерывный характер востребованности имеет и основная сервисная функция, моделируемая на полигоне.

2. Многоцелевое назначение полигона и многопользовательский режим его эксплуатации. Состав и конфигурация оборудования полигона должны обеспечивать возможность параллельного проведения различных экспериментов, согласованных по режимам эксплуатации оборудования в соответствии с поставленными целями.

3. Продуктовое дублирование и разнообразие оборудования полигона. В состав стендов полигона должно входить оборудование синхронизации времени различных производителей для исследования возможностей и ограничений их интеграции. В то же время в составе стендов должны присутствовать дублирующиеся модели оборудования для оценки технологий резервирования с целью повышения показателей доступности и готовности.

4. Компоненты полигона должны быть территориально распределены с учетом разнообразия градостроительной обстановки. Масштаб современных МСПД – это масштаб региона, страны и в ряде случаев еще шире. Таким образов полигон должен содержать участки ответственности различных операторов связи. Разные стенды полигона должны быть смонтированы в условиях различных типов застройки и использовать антенны различных марок и мест установки.

5. Присутствие возможностей централизованного управления всеми стендами полигона и удаленного мониторинга их состояния.

6. Утилитарный характер функционирования полигона. Стоимость комплекта оборудования полигона, формируемого даже в условиях экономии финансирования, оказывается весьма значительной. Заметными оказываются и эксплуатационные издержки. В связи с этим важно, чтобы функционирование полигона представляло интерес не только для научно-исследовательской деятельности и учебного процесса по линии профильной лаборатории, но и имело заметную ценность, как для всей IT-инфраструктуры университета, так и для ряда учебных и исследовательских университетских лабораторий, утилизирующих сервисы эталонов времени и частоты.

7. Масштабируемость полигона. Роль эталонов времени и частоты в научных исследованиях постоянно расширяется, повышаются требования к точности эталонов. На подходе новые технологии синхронизации времени в сетях передачи данных – Sync Ethernet и PTP. В связи с этим архитектура вычислительной сети испытательного полигона должна обеспечивать легкое масштабирование, как по производительности, так и по функциональности.

8. Долгосрочный и перспективный характер проекта. Уже, исходя из выше обозначенных требований 2, 6, 7, становится очевидным, что данный проект следует рассматривать как инфраструктурный и, следовательно, развивающийся вместе с IT-инфраструктурой университета, а возможно и опережая ее.

Состав полигона

В соответствии с заявленными требованиями был разработан и реализован проект системы из двух территориально удаленных стендов для отработки технологий дистрибуции точного времени. Структурные схемы стендов приведены на рисунках 1 и 2.

stend001new

Рис. 1. Структурная схема стенда, расположенного в офисе №1

Особенностью первого стенда является использование серверов времени разных производителей. При этом сервер Symmetricom Truetime NTS-90 имеет возможность использовать для приема сигналов GPS одну из трех различных антенн (одна расположена внутри помещения, две другие – наружной дислокации с круговым обзором неба не хуже 165О по горизонту). Сервер времени Communication Systems Solutions Time Machines TM1000A использует антенну, расположенную внутри помещения у южного окна. Отметим, что строение, в котором размещен стенд, представляет собой деревянное сооружение с толщиной стен 55 … 60 см. Крыша у данного строения металлическая. Дополнительно данный стенд содержит оборудование мониторинга среды (температура, влажность, атмосферное давление) внутри и снаружи помещения. Данный стенд позволяет сравнивать точность синхронизации времени в серверах разных производителей, изучать влияние параметров и точек размещения антенн на синхронизацию, а также исследовать влияние среды (в первую очередь температуры) на внутреннее состояние оборудования синхронизации времени, например, на стабильность работы встроенных в серверы часов. Еще одной особенностью данного стенда является наличие подсистемы разграничения доступа к серверу времени Symmetricom Truetime NTS-90 по управлению. Данный сервер имеет выделенный порт управления, который в данном техническом решении защищен межсетевым экраном, построенным на базе маршрутизатора Cisco 831. Это решение позволяет отрабатывать различные политики безопасности управления сервером времени.

stend002new

Рис. 2. Структурная схема стенда, расположенного в офисе №2

Второй стенд для синхронизации времени использует пару одинаковых серверов времени. При этом антенны серверов также одинаковы и дислоцированы в одном месте (у окна) внутри помещения со стенами каменной кладки толщиной 80 см (не вполне благоприятные условия приема сигналов GPS). Стенд позволяет отрабатывать технологии резервирования серверов времени с использованием однотипного оборудования и наблюдать их работу в усложненных условиях приема сигналов GPS.

На рисунке 3 приведена архитектура типичной клиентской (по отношению к полигону) подсистемы, утилизирующей сервис точного времени. Это может быть, например, домашняя сеть, в которой есть NTP-сервер стратума 3, функционирующий на ноутбуке, и часы, отображающие точное время и построенные на базе, например, гаджетов Apple (см. рисунок 3).

ntp_client_0

Рис. 3. Архитектура домашней системы точного времени

Особенностью технического решения, представленного на рисунке 3, является независимость работы сервера времени от доступности сети Internet. На компьютере, на котором функционирует NTP, дополнительно запущен скрипт, который при разрыве связи с Internet (проверяется с использованием протокола ICMP) запускает свободно распространяемую программу GPSTime португальской обсерватории COAA [10], которая синхронизирует часы компьютера по сигналам GPS. Данное техническое решение может также рассматриваться как дополнительный стенд полигона.

Архитектура полигона

Представление об архитектуре полигона в целом может дать один из вариантов настройки оборудования, см. рисунок 4. На данном рисунке стрелками изображены ссылки одних серверов времени на другие, которые для первых играют роль источников времени. Вариант, изображенный на рисунке интересен тем, что является оптимальным по критерию «Value at Risk», вычисленному для случайной величины совокупной стоимости владения подсистемой синхронизации времени, при жестких требованиях к готовности и доступности сервиса времени в МСПД и при фиксированном составе оборудования. Для расчетов использовались методика, предложенная в работах [7, 11], а также пакет прикладных программ «МультиМИР» [12, 13].

logicstruc1

Рис. 4. Вариант логической организации подсистемы синхронизации времени в МСПД

Модель базового интервала времени эксплуатации оборудования испытательного полигона (базового периода) в нотации сетей Петри со случайной маркировкой [14] представлена на рисунке 5. Здесь под базовым интервалом понимается минимальный промежуток времени, в течение которого может произойти значимый отказ какой-либо единицы оборудования и последующее ее восстановление. При этом все вероятности отказов приводятся к заданной продолжительности базового интервала.

modelstruc0

Рис. 5. Модель одного интервала времени эксплуатации оборудования испытательного полигона в нотации сетей Петри со случайной маркировкой

На рисунке использованы следующие обозначения:

p0 – позиция, единичная маркировка которой означает завершение предыдущего и готовность к началу нового базового периода;

t0 – переход, срабатывание которого означает начало нового базового периода;

p0i – позиция, единичная маркировка которой означает готовность i-го устройства в начале базового периода;

p0i1 и p0i0 – временные позиции со стохастической маркировкой, описывающие элементарное вероятностное пространство с двумя исходами (устройство соответственно выполняет свою функцию или нет) для i-го устройства,

t0i1 и t0i0 – переходы, срабатывание которых соответственно означает либо выполнение устройством своей функции, либо его отказ, при этом переход t0i0 охарактеризован издержками на восстановление i-го устройства;

p2xi-1 – позиция, единичная маркировка которой означает, что i-ое устройство в течение базового периода работало без отказов;

p2xi – позиция, единичная маркировка которой означает что i-ое устройство в течение базового периода отказало;

i = 1, 2, … , 8 (четыре первичных и четыре вторичных сервера времени);

q1 – позиция, единичная маркировка которой означает, что в течение базового периода для клиентов данной локальной сети был доступен эталон времени стратума 2, расположенный в пределах этой данной локальной сети;

q2 – позиция, единичная маркировка которой означает, что в течение базового периода для клиентов данной локальной сети был доступен эталон времени стратума 2, расположенный за пределами этой данной локальной сети;

q3 – позиция, единичная маркировка которой означает, что в течение базового периода для клиентов данной локальной сети эталоны времени стратума 2 были не доступны;

t1, t2 и t3 – переходы, срабатывающие при единичной маркировке позиций q1, q2 и q3, соответственно, и охарактеризованные клиентскими издержками, связанными с соответствующими состояниями подсистемы синхронизации времени в целом;

q0 – позиция, единичная маркировка которой означает окончание очередного базового периода;

N0 – подсеть сети Петри, которая реализует декодирование совокупности состояний ключевых устройств в состояние подсистемы синхронизации времени в целом.

Структуру сети Петри N0 определяет архитектура полигона.

Удаленный мониторинг

Вопросам удаленного мониторинга состояния серверов времени в рамках создания данного полигона посвящена работа [15]. Следует отметить, что только сервер Symmetricom Truetime NTS-90, из использованных в данном проекте, имеет развитые средства внутренней диагностики, сервера CSS TIME MACHINES TM1000A являются «легкими» дешевыми решениями и содержат минимум средств внутренней диагностики.

Удаленный мониторинг состояния среды внутри и вне помещения осуществляется штатным программным обеспечением Small Meteo v2 [16].

Заключение

В целом, в результате проведенной работы, был разработан гибкий инструмент, который может стать базой для научно-исследовательской работы не только в области дистрибуции точного времени, но и для ряда других лабораторий университета, утилизирующих сервисы эталонов времени и частоты. Учебный процесс при этом может получить реальную систему, способную демонстрировать множество фактов и технических решений, связанных с синхронизацией времени в МСПД.

Дальнейшие пути развития учебно-испытательного полигона мы связываем с созданием специализированного стенда, использующего оборудование синхронизации времени отечественного производства [9]. Выделение денежных средств на эту работу мы считаем важным вкладом в реализацию программы импортозамещения в целях обеспечения устойчивого развития, как отдельно взятой страны (Российской Федерации), так и мира в целом [17]. Новые технические решения должны быть всесторонне апробированы, в частности должны быть оценены их надежность и достижимая точность синхронизации при их использовании.

References
1. RFC 5905. Network Time Protocol Version 4: Protocol and Algorithms Specification, June 2010. – [Elektronnyi resurs] – URL: http://www.rfc-editor.org/rfc/rfc5905.txt. Data obrashcheniya: 31.05.2015.
2. IEEE Std 1588TM-2008. IEEE Standard for a Precision Clock Synchronization Protocol for Networked Measurement and Control Systems [Elektronnyi resurs]. – URL: http://www.googlecode.com/files/IEEE-1588-2008.pdf. Data obrashcheniya: 31.05.2015.
3. Ferrant, J. Synchronous Ethernet: A Method to Transport Synchronization [Text] / J. Ferrant, M. Gilson, S. Jobert, M. Mayer, M. Ouellette, L. Montini, S. Rodrigues, S. Ruffini // IEEE Communications Magazine. – September 2008. – P. 126-134.
4. Borodin, A. V. Stoimost' vladeniya kak kriterii arkhitektury pervichnogo NTP-servera na osnove GPS-priemnikov kommercheskoi tochnosti [Tekst] / A. V. Borodin // Obozrenie prikladnoi i promyshlennoi matematiki. – 2009. – T. 16. – V. 3. – S. 507-508.
5. Borodin, A. V. O kriteriyakh vybora arkhitektury NTP-podsistemy v setyakh peredachi dannykh [Tekst] / A. V. Borodin // Issledovaniya. Tekhnologii. Innovatsii. Ezhegodnaya nauchno-tekhnicheskaya konferentsiya professorsko-prepodavatel'skogo sostava, doktorantov, aspirantov, sotrudnikov Mariiskogo gosudarstvennogo tekhnicheskogo universiteta. – Ioshkar-Ola: Mariiskii gosudarstvennyi tekhnicheskii universitet, 2011. – S. 202-204.
6. Gryazin, N. L. Sovokupnaya stoimost' vladeniya kak kriterii optimal'nosti arkhitektury sluzhby distributsii tochnogo vremeni v sistemakh SDR-svyazi na baze oborudovaniya kompanii Symmetricom [Tekst] / N. L. Gryazin, A. V. Borodin // Informatsionnye tekhnologii v ekonomike, obrazovanii i biznese: materialy V mezhdunarodnoi nauchno-prakticheskoi konferentsii (23 dekabrya 2013 g.). – Saratov: Izdatel'stvo TsPM «Akademiya Biznesa», 2013. – S. 39-41.
7. Borodin, A. V. Stokhasticheskoe modelirovanie v zadachakh sinteza optimal'nykh topologii setei distributsii tochnogo vremeni [Tekst] / A. V. Borodin, D. R. Zub'yak // Tekhnicheskie nauki — ot teorii k praktike. Sbornik statei po materialam XXXIV mezhdunarodnoi nauchno-prakticheskoi konferentsii. № 5 (30). – Novosibirsk: Izdatel'stvo «SibAK», 2014. – S. 7-15.
8. Andreeva, N. E. Stend dlya issledovaniya tekhnologii distributsii tochnogo vremeni v setyakh peredachi dannykh, postroennykh na baze oborudovaniya Cisco [Tekst] / N. E. Andreeva, A. V. Borodin // Chelovek, obshchestvo, priroda v epokhu global'nykh transformatsii: bezopasnost' i razvitie. Semnadtsatye Vavilovskie chteniya: materialy postoyanno deistvuyushchei mezhdunarodnoi mezhdistsiplinarnoi konferentsii. Ch. 2. – Ioshkar-Ola: Povolzhskii gosudarstvennyi tekhnologicheskii universitet, 2014. – S. 241-242.
9. Borodin, A. V. Ob importozameshchenii pri sozdanii sistem distributsii tochnogo vremeni v mul'tiservisnykh setyakh peredachi dannykh / A. V. Borodin // Kibernetika i programmirovanie. – 2015. – № 2. – S.78-97. – DOI: 10.7256/2306–4196.2015.2.14036. – [Elektronnyi resurs] – URL: http://e-notabene.ru/kp/article_14036.html.
10. GPSTime is a small freeware applet that corrects your PC clock using GPS [Elektronnyi resurs]. – URL: http://www.coaa.co.uk/gpstime.htm. Data obrashcheniya: 10.02.2015.
11. Belousov, S. A. Edinaya tekhnologicheskaya platforma razrabotki podsistem distributsii tochnogo vremeni v setyakh peredachi dannykh, postroennykh na baze oborudovaniya Cisco [Tekst] / S. A. Belousov, N. I. Aleksandrov, A. V. Borodin // Informatsionnye tekhnologii v ekonomike, obrazovanii i biznese: materialy V mezhdunarodnoi nauchno-prakticheskoi konferentsii (23 dekabrya 2013 g.). – Saratov: Izdatel'stvo TsPM «Akademiya Biznesa», 2013. – S. 15-18.
12. Urazaeva, T. A. Paket prikladnykh programm «Mul'tiMIR»: arkhitektura i primenenie / T. A. Urazaeva // NB: Kibernetika i programmirovanie. – 2014. – № 5. – S. 34-61. – DOI: 10.7256/2306-4196.2014.5.12962. – [Elektronnyi resurs] – URL: http://e-notabene.ru/kp/article_12962.html.
13. Urazaeva, T. A. Algebra riskov [Tekst] / T. A. Urazaeva. – Ioshkar-Ola: Povolzhskii gosudarstvennyi tekhnologicheskii universitet, 2013. – 209 s.
14. Borodin A. V. Teoretiko-igrovye modeli protsessov riska nad setyami Petri [Tekst] / A. V. Borodin // Modelirovanie i analiz bezopasnosti i riska v slozhnykh sistemakh: Trudy mezhdunarodnoi nauchnoi shkoly MABR-2006. – SPb.: GOU VPO «SPbGUAP», 2006. – S. 305-307.
15. Glazyrina, T. V. Programmnyi kompleks rasshirennogo monitoringa sostoyaniya NTP-serverov kompanii Symmetricom serii NTS-90 i NTS-100 [Tekst] / T. V. Glazyrina, N. A. Lukinykh, A. V. Borodin // Chelovek, obshchestvo, priroda v epokhu global'nykh transformatsii: bezopasnost' i razvitie. Semnadtsatye Vavilovskie chteniya: materialy postoyanno deistvuyushchei mezhdunarodnoi mezhdistsiplinarnoi konferentsii. Ch. 2. – Ioshkar-Ola: Povolzhskii gosudarstvennyi tekhnologicheskii universitet, 2014. – S. 246-248.
16. Termometr + gigrometr + barometr s interfeisom ethernet. Small Meteo v2 // Elektronnye melochi. – [Elektronnyi resurs] – URL: http://etrivia.ru/goods/Meteostanciya-s-setevym-interfejsom-Small-Meteo-v2. Data obrashcheniya: 31.05.2015.
17. Shugurov M.V. Vozdeistvie sovremennogo NTP na mezhdunarodno-pravovoe regulirovanie peredachi tekhnologii v tselyakh ustoichivogo razvitiya // Mezhdunarodnoe pravo.-2015.-2.-C. 53-90. DOI: 10.7256/2306-9899.2015.2.14771. URL: http://www.e-notabene.ru/wl/article_14771.html