Метод главных компонент

Автор: Ольга Осипова, 10 Ноября 2010 в 11:11, реферат

Описание работы

Целью данной работы является изучить проблему сокращения размерности признакового пространства с помощью метода главных компонент.
В связи с поставленной целью предусмотрено решение следующих задач:
- рассмотреть компонентный анализ, как многомерный метод снижение размерности;
- изучить сущность метода главных компонент;
- проанализировать линейную модель метода главных компонент.
В работе использовались следующие методы:
анализ;
-синтез;
-реферирование.

Содержание

Введение……………………………………………………………………..3

1. Статистический подход в методе главных компонент.

Примеры использования главных компонент в экономике………………4

2. Многомерное нормальное распределение………………………………6

3. Линейная модель главных компонент. Метод Фаддеева- одновременное вычисление коэффициента характеристического многочлена

и присоединенной матрицы…………………………………………………10

4. Квадратичные формы и главные компоненты…………………………..13

Заключение …………………………………………………………………..19

Список литературы…………………………………………………………...20

Работа содержит 1 файл

реферат по эконометрике.doc

— 189.00 Кб (Скачать)

l + т = 1;                                                                      (16)

l1 l2 + m1m2 = 0;                                                                                            (17) 

   l m    =1                                                                                   (18)    

         l m

Наконец

   l  m    = -1                                                                                 (19)    

          l  m 

если  поворот осей совершен на α→x; (α+π)→y

Таким образом, может быть совершен поворот  осей прямоугольных координат с  неизменным масштабом. Итак, чтобы привести квадратичную форму (9) к каноническому виду, нужно в (9) величины х и у заменить согласно формуле (11). Данная квадратичная форма примет следующий канонический вид (средний коэффициент равен нулю):

λx +  λy                                                                                      (20)

т.е.

Ах2 +2Вху + Су2 =λ x+λ y                                                          (21)

Для решения (21) достаточно подобрать так коэффициенты (11) и числа λ λ чтобы

A l +B m=λ l                                                 A l +B m=λ l

Bl+Cm=λm                                                   B l+C m=λ m

Значит, надо решить систему уравнений

A l +B m=λ l

B l+C m=λ m                                                                                 (22) 

В системе (22) перенесем правые части влево и получим

  (A-λ)l +Bm=0                                                                              (23)

  Bl+(C-λ)m=0

Определитель  данной системы

  =0                                                                               (24)

можно представить в виде

λ2 - (А + С)λ+ {АС - В2) = 0.                                                                                                 (25)

Откуда

                                              (26) 

 Уравнение (24) представляет собой характеристическое уравнение квадратичной формы, а корни этого уравнения λ , и λ 2 являются характеристическими числами этой формы. После приведения формы к каноническому виду числа λ , и λ 2 являются коэффициентами при неизвестных.

Так как  выражение под радикалом, равное

(А-С)2 + 4В2≥0,                                                                         (27)

неотрицательно, то уравнение (24) имеет только действительные корни. Отдельно рассмотрим случай, когда

(А-С)2 + 4В2>0.                                                                                                     (28) 

При этом условии λ  λ .  Подставим в (23) λ = λ Система будет иметь ненулевое решение 1 и т.

Полученный  вектор будет иметь главное направление  квадратичной формы, которое соответствует характеристическому числу λ. По этому же главному направлению, которое соответствует числу λ , направлен и вектор l

                                                                                                                  m т.е.

                             l=µl

                         m = µm                                                                      (29) 

где µ   0.

Если  примем, что =_1, то по системе (29)

                                                            l22=1.

                l

Вектор   m  является единичным вектором главного направления.

                                                    l

Естественно, что вектор  m определяет другое главное направление квадратичной формы.

Согласно  выражению (17), если λ 1  λ 2, векторы главных направлений взаимно перпендикулярны.

Другой  случай соответствует

(А-С)2 + 4В2 = 0.                                                                       (30)

В данном случае

    λ  = λ 2 = λ

      А=С     .                                                                               (31)

     В = 0

Из выражения (26) λ = А = С.

     Подставим в выражение (25) полученное значение λ и убедимся в том, что все коэффициенты системы обращаются в нуль. Таким образом, система (23) будет состоять из тождеств. Ей подходят любые числа l и т.

В результате можно заключить, что если λ = λ    то для квадратичной формы любое направление является главным. При повороте осей на любой угол форма сохранит свой канонический вид

                                                       Ax

При любом  преобразовании квадратичной формы  к любым прямоугольным координатам не меняются ее инварианты

А+С=А' + С                                                                                         (32)

АС-В2 = А'С'-В'2

Согласно  теореме Виета

АС-В2= λ 1 λ 2.                                                                               (33)

1.   Если λ 0; λ 2  0 имеют одинаковые знаки, то квадратичная форма называется эллиптической:

                                                                  АС-В2>0.                          (34)

2.  Если  λ  0; λ 2   0, но знаки у них разные, то форма называется гиперболической:

                                                                АС-В2<0.                             (35)

3.  Если  одно из чисел λ , λ г равно нулю, т.е. АС-В2 =0, то форма называется параболической.

В методе главных компонент характеристические числа по своему физическому смыслу не могут равняться нулю и быть отрицательными. Значит, λ >0 и λ 2 >0. В этом случае квадратичная форма будет называться положительно определенной эллиптической формой.

На рис.2 показаны переход от произвольной системы координат к системе с точкой нуль в центре эллипса и поворот осей, осуществленный для приведения квадратичной формы к каноническому виду. После приведения к каноническому виду ось абсцисс, соответствующая λ , направлена по одной главной оси эллипса (главному направлению), а ось координат, соответствующая другому главному направлению, направлена перпендикулярно к ней вдоль другой главной оси эллипса. Вдоль главной оси эллипса оу направлена первая главная компонента, а вдоль оси ох направлена вторая главная компонента.

    

 

Рис. 2. Перенос системы координат (х,0,у) в центр эллипса (х ,0, у) и поворот на угол а 

На рис.2 первое главное направление (у') определяется λ , а второе главное направление ') определяется характеристическим числом λ 2. 
 
 
 
 
 
 
 
 
 
 
 

                                        

                                              Заключение 

 Подводя  итог всему выше сказанному  можно сказать о том, что  наличие множества исходных признаков, характеризующих процесс функционирования объектов, заставляет отбирать из них наиболее существенные и изучать меньший набор показателей. Чаще исходные признаки подвергаются некоторому преобразованию, которое обеспечивает минимальную потерю информации. Такое решение может быть обеспечено методами снижения размерности, куда относят факторный и компонентный анализ. Эти методы позволяют учитывать эффект существенной многомерности данных, дают возможность лаконичного или более простого объяснения многомерных структур. Они вскрывают объективно существующие, непосредственно не наблюдаемые закономерности при помощи полученных факторов или главных компонент. Они дают возможность достаточно просто и точно описать наблюдаемые исходные данные, структуру и характер взаимосвязей между ними. Сжатие информации получается за счет того, что число факторов или главных компонент – новых единиц измерения – используется значительно меньше, чем было исходных признаков. 
 
 
 
 
 
 
 
 
 
 

                                   Список литературы 

1.Айвазян  С.А, Мхитарян В.С. Прикладная  статистика и основы эконометрики.-М.: ЮНИТИ, 1998

2. Дубров  А.М., Мхитарян В.С, Трошин Л.И.  Многомерные статистические методы-М.: Финансы и статистика, 1998

3. Сошникова Л.А., Тамашевич В.Н., Уебе Г., Шебер М. Многомерный

статистический  анализ в экономике: Учеб. Пособие для вузов/Под

ред. проф. Тамашевича. – М.: ЮНИТИ-ДАНА, 1999.

Информация о работе Метод главных компонент