.



   

 Каталог

Корпоративные порталы
Информационные порталы
Экспертные порталы
Порталы приложений
Порталы совместной работы
Порталы управления знаниями
Порталы интеграции корпоративных систем

Методологии
Системы поддержки принятия решений (Decision Support Systems — DSS)
Data Warehouse - хранилища данных
Data Mart - Витрины данных
OLAP (On-Line Analytical Processing) - интерактивная аналитическая обработка
Business Intelligence (BI) - бизнес-интеллект
Интеллектуальный анализ данных (Data Mining)
Управление знаниями (Knowledge Management)

Корпоративные сети
Экстранет (Extranet , Экстрасеть)
Защита корпоративных сетей
Интернет (Internet)
Интранет (Intranet)

О проекте

             

Портал о Корпоративных порталах
Консалтинг, создание, внедрение и поддержка

УслугиЭнциклопедияСтатьиРесурсыИсторияНовости
Главная > Статьи > Методологии > OLAP (On-Line Analytical Processing) - интерактивная аналитическая обработка

Ядро OLAP системы. Часть 1 -- принципы построения

 
Механизм OLAP является на сегодня одним из популярных методов анализа данных. Есть два основных подхода к решению этой задачи. Первый из них называется Multidimensional OLAP (MOLAP) –реализация механизма при помощи многомерной базы данных на стороне сервера, а второй Relational OLAP (ROLAP) –построение кубов "на лету" на основе SQL запросов к реляционной СУБД. Каждый из этих подходов имеет свои плюсы и минусы. Их сравнительный анализ выходит за рамки этой статьи. Мы же опишем нашу реализацию ядра настольного ROLAP модуля.

Такая задача возникла после применения ROLAP системы, построенной на основе компонентов Decision Cube, входящих в состав Borland Delphi. К сожалению, использование этого набора компонент показало низкую производительность на больших объемах данных. Остроту этой проблемы можно снизить, стараясь отсечь как можно больше данных перед подачей их для построения кубов. Но этого не всегда бывает достаточно.

В Интернете и прессе можно найти много информации об OLAP системах, но практически нигде не сказано о том, как это устроено внутри. Поэтому решение большинства проблем нам давалось методом проб и ошибок.

Схема работы

Общую схему работы настольной OLAP системы можно представить следующим образом:

Общая схема OLAP

Алгоритм работы следующий:

  1. Получение данных в виде плоской таблицы или результата выполнения SQL запроса.
  2. Кэширование данных и преобразование их к многомерному кубу.
  3. Отображение построенного куба при помощи кросс-таблицы или диаграммы и т.п. В общем случае, к одному кубу может быть подключено произвольное количество отображений.

 

    Рассмотрим как подобная система может быть устроена внутри. Начнем мы это с той стороны, которую можно посмотреть и пощупать, то есть с отображений.

    Отображения, используемые в OLAP системах, чаще всего бывают двух видов –кросс-таблицы и диаграммы. Рассмотрим кросс-таблицу, которая является основным и наиболее распространенным способом отображения куба.

    Кросс-таблица

    На приведенном ниже рисунке, желтым цветом отображены строки и столбцы, содержащие агрегированные результаты, светло-серым цветом отмечены ячейки, в которые попадают факты и темно-серым ячейки, содержащие данные размерностей.

    Кросс-таблица

    Таким образом, таблицу можно разделить на следующие элементы, с которыми мы и будем работать в дальнейшем:

    Фрагменты кросс-таблицы

    Заполняя матрицу с фактами, мы должны действовать следующим образом:

    • На основании данных об измерениях определить координаты добавляемого элемента в матрице.
    • Определить координаты столбцов и строк итогов, на которые влияет добавляемый элемент.
    • Добавить элемент в матрицу и соответствующие столбцы и строки итогов.

     

      При этом нужно отметить то, что полученная матрица будет сильно разреженной, почему ее организация в виде двумерного массива (вариант, лежащий на поверхности) не только нерациональна, но, скорее всего, и невозможна в связи с большой размерностью этой матрицы, для хранения которой не хватит никакого объема оперативной памяти. Например, если наш куб содержит информацию о продажах за один год, и если в нем будет всего 3 измерения –Клиенты (250), Продукты (500) и Дата (365), то мы получим матрицу фактов следующих размеров:

      Кол-во элементов = 250 х 500 х 365 = 45 625 000

      И это при том, что заполненных элементов в матрице может быть всего несколько тысяч. Причем, чем больше количество измерений, тем более разреженной будет матрица.

      Поэтому, для работы с этой матрицей нужно применить специальные механизмы работы с разреженными матрицами. Возможны различные варианты организации разреженной матрицы. Они довольно хорошо описаны в литературе по программированию, например, в первом томе классической книги "Искусство программирования" Дональда Кнута.

      Рассмотрим теперь, как можно определить координаты факта, зная соответствующие ему измерения. Для этого рассмотрим подробнее структуру заголовка:

      Заголовок таблицы

      При этом можно легко найти способ определения номеров соответствующей ячейки и итогов, в которые она попадает. Здесь можно предложить несколько подходов. Один из них –это использование дерева для поиска соответствующих ячеек. Это дерево может быть построено при проходе по выборке. Кроме того, можно легко определить аналитическую рекуррентную формулу для вычисления требуемой координаты.

      Подготовка данных

      Данные, хранящиеся в таблице необходимо преобразовать для их использования. Так, в целях повышения производительности при построении гиперкуба, желательно находить уникальные элементы, хранящиеся в столбцах, являющихся измерениями куба. Кроме того, можно производить предварительное агрегирование фактов для записей, имеющих одинаковые значения размерностей. Как уже было сказано выше, для нас важны уникальные значения, имеющиеся в полях измерений. Тогда для их хранения можно предложить следующую структуру:

      Структура хранения

      При использовании такой структуры мы значительно снижаем потребность в памяти. Что довольно актуально, т.к. для увеличения скорости работы желательно хранить данные в оперативной памяти. Кроме того, хранить можно только массив элементов, а их значения выгружать на диск, так как они будут нам требоваться только при выводе кросс-таблицы.

      Библиотека компонентов CubeBase

      Описанные выше идеи были положены в основу при создании библиотеки компонентов CubeBase.

      Структура библиотеки CubeBase

      TСubeSource осуществляет кэширование и преобразование данных во внутренний формат, а также предварительное агрегирование данных. Компонент TСubeEngine осуществляет вычисление гиперкуба и операции с ним. Фактически, он является OLAP-машиной, осуществляющей преобразование плоской таблицы в многомерный набор данных. Компонент TCubeGrid выполняет вывод на экран кросс-таблицы и управление отображением гиперкуба. TСubeChart позволяет увидеть гиперкуб в виде графиков, а компонент TСubePivote управляет работой ядра куба.

      Сравнение производительности

      Данный набор компонент показал намного более высокое быстродействие, чем Decision Cube. Так на наборе из 45 тыс. записей компоненты Decision Cube потребовали 8 мин. на построение сводной таблицы. CubeBase осуществил загрузку данных за 7сек. и построение сводной таблицы за 4 сек. При тестировании на 700 тыс. записей Decision Cube мы не дождались отклика в течение 30 минут, после чего сняли задачу. CubeBase осуществил загрузку данных за 45 сек. и построение куба за 15 сек.

      На объемах данных в тысячи записей CubeBase отрабатывал в десятки раз быстрее Decision Cube. На таблицах в сотни тысяч записей –в сотни раз быстрее. А высокая производительность –один из самых важных показателей OLAP систем.

      Дополнительно см.

      Ядро OLAP системы. Часть 2 –внутри гиперкуба
      Ядро OLAP системы. Часть 3 –построение срезов куба

      Алексей Стариков
      BaseGroup Labs.



      16.04.2007



      Кроме этой статьи Вы можете посмотреть по тематеке текущего раздела:
      1 статью в разделе "Энциклопедия"
      7 статей в разделе "Статьи".
      2 статей в разделе "История".
      __________________
      Версия для печати

       


       
       

              Поиск

         
              Расширенный поиск

      Статьи

      Оперативная аналитическая обработка данных: концепции и технологии

      Основы OLAP

      OLAP - чудесное превращение данных в информацию

      Ядро OLAP системы. Часть 3 -- построение срезов куба

      Ядро OLAP системы. Часть 2 -- внутри гиперкуба

      Применение OLAP технологий при извлечении данных

      Что следует понимать под термином OLAP?

      История

      Истоки сегодняшних продуктов OLAP

      История OLAP (On-Line Analytical Processing)

      Энциклопедия

      OLAP - Оперативная аналитическая обработка (данных)

      Ресурсы

      OLAP: Панацея для систем управления информацией?

      Мобильный OLAP

      Оперативная аналитическая обработка данных OLAP. Интеллектуальные информационные системы.

      OLAP. Часть 1. Старо как мир компьютерный

      OLAP что в имени твоем?

      Клад, который лежит под ногами

      CorPortal.ru Все права защищены. Инспро

      Рейтинг@Mail.ru
      !