Государственное управление Российской Федерации: вызовы и перспективы

7. Методы и технологии анализа данных Росстата

Авторы: 
Смольникова И.А.

Смольникова И.А.* (Россия, г. Москва)

Аннотация. В России появилось много больших таблиц открытых данных [1]–[2]. Стали доступны и аналитические программы. В предшествующей статье [3] дан обзор (бесплатно) доступных информационных бизнес – инструментов (ПО), проведена классификация, для аналогов – сравнение. Их возможности охватывают не только подготовку (очистку и восстановление), разведку (визуализацию и описательную статистику) данных, но сравнительные и интеллектуальные методы выявления скрытых зависимостей для анализа (вклада и прогноза) и уменьшения размерности (для компактности хранения). Ниже на социально – экономических данных Росстата показаны разные способы и технологии анализа. Методику можно использовать при обучении информационно-аналитическим технологиям (ИАТ) управления.

Сначала в развитых странах, потом и в России, в Интернете появилось много больших таблиц социально – экономических данных [1]. On-line можно искать и фильтровать нужные данные, даже графически визуализировать их малое количество, например, на информационной витрине ГАСУ [2]. Но это лишь один из способов 2-го этапа анализа (разведки), который до сих пор преобладает.

В [3] даны все 5 этапов анализа с их трудоемкостью. Продемонстрируем в MS Excel (модуль анализа), Statistica, Deductor (имеющихся на ФГУ) ход, модели и результаты аналитических исследований для 52-х показателей Росстата, собранных 85-ю субъектами РФ с 2009 года [1] по этапам: 1I, 2IIIV, 3V или VI, 4VII, 5VIII.

I. Подготовка данных (проблемы и решения)

  1. Неполные данные (особенно, в сфере культуры), остальные показатели:

    1) Астраханская и Тюменская области без округов – с декабря 2013 года,

    2) Северо-Кавказский округ – с 2010 года,

    3) Крым – с 2014 года (поквартально), с 2015 года – ежемесячно.

  2. Удаление «полупустого» региона (Крымского округа).
  3. Заполнение пропусков по трендам (без учета сезонности в Excel):

Рис. 1. Приближение табличных данных 3-мя формулами

Видим – реалистичнее: внутренние пропуски – полиномиальный, назад – по среднему, а прогноз вперед – линейный (с учетом сезонных колебаний – в Statistica или Deductor).

4. Скрытые опечатки: вместо запятой – точка ® не число, а текст; пустота ® может игнорироваться в Excel.

5. Для гарантированного импорта первичных данных в ПО Statistica и Deductor – таблицы чисел должны быть в виде текстового файла с разделителем по столбцам.

II. Анализ временных рядов

В Excel построены графики с линейными трендами для округов (как и рисунок 1, рисунок 2 – тоже на примере накопительной в течение года доли убыточных организаций со с. 185–187 отчета Росстата за 84 месяца [1]):

Ри. 2. Графики 8-ми полных округов с уравнениями линейного тренда

Видим: пики – в унисон (накопление), почти все попарные корреляции строк > 0,5, что подтверждает единую инвестиционную политику в России.

Для схожих по динамике регионов (парная корреляция близка к 1) найдены формулы регрессии, например: Уральский округ = 1,117 * Приволжский округ + 0,84 ± 3,6. Достоверное приближение послужило основой для сэмплинга (п. VI ниже). От графической визуализации при переходе от 9 округов к 85-ти субъектам РФ вернулись к таблице с использованием формул для автоматизации выводов (см. модель III).

III. Модель динамики показателя представлена в таблице 5 в [3] (Excel-книга 11)

Рис. 3. Excel – модель мониторинга и прогноза значения показателя

Слева – регионы по округам, справа – рассчитываемые прогноз на следующий период, а также квадрат коэффициента корреляции R2 его надежности, темп роста b1 (убыли) и начальное значение b0, внизу – минимальные и максимальные значения по периоду с указанием достигшего их региона (через функции ПОИСК ПОЗИЦИИ и ИНДЕКС – см. вверху в строке формул на рисунке 3) – лучшего и худшего региона в каждый отчетный период (внизу). Ниже (не видно) – сортировка значений темпа роста и прогноза посредством РАНГА с указанием достигшего их региона, а также определение регионов, близких (через разность соседних) по каждому параметру.

Так по наименьшей доле убыточных предприятий: до августа 2015г. и по прогнозу на 2016– лидер Башкортостан, хотя в сентябре – ноябре 2015 – Ставропольский край. Значит, в этих регионах наилучшие условия для работы предприятий.

IV. Моделирование динамики другого показателя по модели III:

Для однотипных меняющихся данных (например, Росстата) моделирование – единственный способ перейти от кустарных решений к промышленной работе. Однако сначала бывает нужно:

а) логическое восстановление отсутствующих данных по некоторым показателям – если:

  1. регион не производит вид товаров (в Москве нет рыболовного промысла, а в Санкт-Петербурге – сельского хозяйства), то 0%
  2. индекс не изменился, то 100%,
  3. отчетность не сдавалась (Северный Кавказ, Крым), то по среднему из имеющихся.

б) преобразование – переход от номинала к доле (разделить на максимум и умножить на 100%) – для корректного сравнения данных по разным показателям в п.V.

Подставляя численные данные любого из 51-го показателя с 2009 по 2015 год в светлое рабочее поле таблицы в Excel (см. рис. 3 выше) справа и внизу сразу получаем результат (аналогичный описанному под рис. 3).

С магистрантами направления ГМУ проведено сравнение 85-ти регионов РФ по динамике каждого из 51-го показателя с 2009 по 2015 (и даже 2016) год.

Например, среди округов (без Крыма) по среднедушевым денежным доходам:

в январе 2009 г. Северо-Кавказский округ был беднейшим, а Уральский – богатейшим; по факту и прогнозу на январь 2017 г. аутсайдером стал Сибирский (худший по темпу роста, поэтому с августа 2014 г. попеременно с Северо-Кавказским становится минимальным); с февраля 2009 г. бессменно лидирует Центральный, хотя по темпу быстрее растет Дальневосточный округ.

V. Совместный анализ регионов по нескольким показателям (до 6):

1. Обозначим «0» – № субъекта. Рассмотрим, к примеру, показатели 1 – 6:

1) индекс промышленного производства (отношение к предыдущему периоду)

2) доля добычи полезных ископаемых

3) доля обрабатывающих производств

4) доля производства и распределения электроэнергии, газа и воды

5) доля отгруженных товаров собственного производства, выполненных работ и услуг, к max субъекту (Москва)

6) доля по вылову рыбы к max субъекту (Мурманск):

Рис. 4. Максимум 6 измерений: 3 пространственные оси, фигура, цвет и размер в Deductor

Для малого числа объектов (чтобы не загораживали друг друга) на диаграмме размещения видим выбросы. Их надо приблизить к остальным для обнаружения нетривиальных (в том числе, числовых) более надежных зависимостей показателей (см. п. 3 ниже) и скрытых переменных (факторов – см. п. 4 ниже). Классификация подходов и задач углубленного анализа Big Data (BD), в т.ч., Business Intelligent (BI)-поддержки управления, даны в таблицах 1 и 2 статьи [3].

2. В Excel найдены попарные корреляции показателей для 85-ти регионов:

Рис. 5. Корреляционная и регрессионная модель

Выводы по знаку коэффициента корреляции по показателям со смысловой интерпретацией:

2~6, но 1 ^ 2, 6 и 2 ^ 3, 4, 5 («~» и «,»–одинаковый знак, «^»–разный) сырье на экспорт не дает вклада в отечественную промышленность). А по max модулю корреляции:

1 сильно коррелирует с 3, слабее – с 5, но 3 коррелирует с 5 ®оставим большую: 1 от 3.

3. Для корреляций, близких к 1, построены регрессии – формулы, с помощью которых:

а) найден вклад показателей в «1» = индекс промышленного производства

1 = 0,018 * 2 + 0,7597 * 3 + 0,207 * 4 – 0,06 * 5 – 0,013 * 6 + 2,599 ± 38,168

1 = 0,745 * 3 + 26,02 ± 52,91

1 = 0,757 * 3 + 0,205 * 4 – 0,064 * 5 + 5,0163 ± 38,144

б) последнее – лучшее (максимальный R2), хотя погрешость (±) все равно велика.

Таким образом, наша промышленность на 76% состоит из обработки тех малых количеств (1,8%) полезных ископаемых, что остались в России.

в) сравнены характеристики надежности в Deductor (81) и Excel (85) ® аналогичны.

4. Найдены скрытые зависимости (факторы) – линейные комбинации первичных показателей. От них найдены более надежные регрессии в Deductor и Excel (ниже):

Таблица 1

Сравнительная таблица характеристик регрессии для «1» от 4-х факторов

Таблица 2

Сравнительная таблица характеристик коэффициентов регрессии для «1»

VI. Сэмплинг – уменьшение выборки субъектов до репрезентативной

1) по 1-му критерию удалось уменьшить с 85 до 48-ми со схожестью 99.7%,

2) стратифицированный – сразу по 4-м факторам: уменьшили с 85 до 42-х:

Рис. 6. Гистограмма 4-х факторов (для 85 и 42) по 7-ми диапазонам взвешенного критерия

VII. Кластеризация объединение «похожих по критерию» объектов в сравнительно однородные группы, существенно отличающиеся от других групп

1. Deductor сам разбил РФ на 5 кластеров по экономике с помощью карт Кохонена:

Рис. 7. Структура 5-ти экономических кластеров

По значению показателей их можно назвать:

0) застойные;

1) возрождающиеся большие регионы;

2) дотационные;

3) растущие;

4) возрождающиеся малые регионы.

Рис. 8. Структура 5-ти экономических кластеров

Видим, что застойных и дотационных – мало.

2. В Deductor задали 4 кластера по демографии (нумерация с 0 по 3):

Рис. 9. Сильные (синие) связи 4-х демографических кластеров

Можно визуализировать характеристики кластеров и таблицы расстояний:

Рис. 10. Профили 4-х демографических кластеров

Рис. 11. Кросс-диаграмма 4-х демографических кластеров

Названия придумали по значениям смертности:

0) дотационные;

1) вымирающие большие;

2) возрождающиеся;

3) вымирающие малые регионы.

В кластере № 0 положение дел было хорошее. В остальных 3-х численность населения очень сильно падает. Поэтому с 2007 года в России оснащают мед. учреждения и стимулируют рождаемость по программе «Материнский капитал».

Кластеризация нужна для уменьшения размерности. Для каждой группы похожих регионов разрабатывают свою стратегию их развития, опробуют на пилотном регионе.

Операции VI–VII осуществлены посредством Data Mining: вместо неизвестных математических формул нейронные сети с обучением сами подбирают коэффициенты.

Итак, произведено прогнозирование экономических и группирование социальных показателей Росстата:

  1. выборка данных (связывание данных);
  2. очистка (заполнить пропуски, удалить аномалии);
  3. трансформация (сгруппировать по близости, скользящее окно);
  4. Data Mining – моделирование (линейная временная и множественная регрессия, нейронная сеть для группирования);
  5. интерпретация результатов (ретро-прогноз, диаграмма рассеяния, распределение ошибки или таблица сопряженности для достоверности).

На основе отклонения прогноза от цели ОГВ принимают стратегию и разрабатывают программу мероприятий для достижения запланированных значений.

VIII. Стратегию развития вырабатывают в виде сценариев с использованием математических формул, например, в ПО Prognoz [3], но в бесплатной версии это невозможно, а платную факультет не приобрел.

Наконец, по названиям факторов руководству надо представить смысловую интерпретацию полученных знаний, дать управленцу практически полезные комплексные рекомендации. Эффекты комплексного систематического анализа – улучшение: планирования, экономии, интеграции, реализации программы, ее мониторинг и его оперативность для повышения качества жизни населения.

Управленцу без аналитической подготовки не то, что создать, трудно даже понять готовую модель, поэтому у него мало доверия к результатам и, как следствие, – отказ в применении модели. Для удобства в дорогих заказных разработках используют цветовой индикатор – визуализатор результата (комплексная выходная характеристика = взвешенной сумме входов = независимых показателей, где веса – например, по коэффициентам линейной регрессии) и гиперссылки для подробных комментариев («Интегрум»). В Excel подобное можно реализовать на отдельном листе.

Процессы создания (синтеза) социально-экономических моделей, их использование (моделирование) и сложности интерпретации результатов предполагают аналитическую (предметную, математическую и технологическую) квалификацию экспертов. Сейчас на эти должности берут программистов (для интеграции данных) и математиков (для анализа). Но при упрощении интерфейса аналитического ПО лучшие наши выпускники тоже справятся с этой деятельностью.

Авторские материалы [3] и методику их использования в электронном виде можно скопировать с https://sites.google.com/site/2018fguiatu/задания. Методика апробирована на магистрах различных групп факультета государственного управления (ФГУ), показала возрастание интереса к исследованию и повышение качества анализа данных. Для сильных студентов – не только работа по инструкции, но и создание своих моделей поддержки и принятия управленческих решений.

Это научит управленцев дифференцировать и обосновывать принимаемые решения. Накапливаемая коллекция моделей полезна как студентам, так и аналитикам.

Тенденции развития рынка и перспективы Business Intelligent перечислены в [3]. Они убедительно призывают к расширению и углублению подготовки по ИАТУ.

Это в дальнейшем поможет развитию аналитической составляющей и модельного ряда ИСУ, совершенствованию порталов ОГВ и сайтов органов местного самоуправления для актуальной поддержки экономики и населения.

Список литературы

  1. Центральная база статистических данных (ЦБСД) на Едином Интернет-портале Росстата.
    URL: http://cbsd.gks.ru (30.05.2015).
  2. Государственная автоматизированная информационная система «Управление» (ГАСУ)
    URL: http://gasu.gov.ru (30.05.2017).
  3. Смольникова И.А. Методы и технологии анализа данных // Государственное управление в XXI веке: Материалы 14-й Международной конференции факультета государственного управления МГУ имени М.В. Ломоносова, секц. 2. Инновации, 2016. – С. 108–118
    URL: http://www.spa.msu.ru/uploads/files/books/publikazija.pdf

* Смольникова Ирина Алексеевна, кандидат физико-математических наук, доцент кафедры математических методов и информационных технологий в управлении, факультет государственного управления Московского государственного университета имени М.В.Ломоносова.