Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60



страница9/10
Дата08.10.2012
Размер0.71 Mb.
ТипУчебное пособие
1   2   3   4   5   6   7   8   9   10

§ 3.2.Дискриминантный анализ




3.2.1Математическая модель


Ограничимся рассмотрением классической модели дискриминантного анализа, не затрагивая вопросов статистического оценивания его результатов.

Пусть результатом наблюдения над объектом является реализация m-мерного случайного вектора . Известно, что этот объект относится к одной из l генеральных совокупностей, к одному из l классов, относительно которых предполагается:

— каждый класс имеет m-мерное нормальное распределение, , где X (j)обозначение вектора X для j-го класса, j=MX (j), - ковариационная матрица вектора X, общая для всех l классов;

— каждый класс j представлен nj — выборкой (эти выборки называют обучающими).

Требуется построить правило дискриминации — правило распознавания класса, к которому относится не попавший в выборки объект x (0).

Поясним идею формирования правила для случая одномерной CB X (m=1) и двух классов (l=2), предположив что удельный вес объектов каждого класса в общей генеральной совокупности одинаков. На рис. 3 изображены графики функций нормальных плотностей f1(x) и f2(x), различающихся только математическими ожиданиями a1 и a2.


Рис. 3

Пусть d — некоторая точка на оси Ox и правило дискриминации такое: классифицируемый объект относят к первому классу тогда и только тогда, когда , где x значения CB X у объекта, и ко второму — во всех остальных случаях. Поступая таким образом, можно допустить ошибки двух видов:

— объект, принадлежащий к первому классу, будет отнесен ко второму; вероятность этой ошибки gif" name="object497" align=absmiddle width=255 height=51>;

— объект, принадлежащий ко второму классу, будет отнесен в первый; вероятность этой ошибки .

Точку d найдем как решение следующей экстремальной задачи: при условии равенства вероятностей , что равносильно условию

, (41)

требуется минимизировать вероятность

. (42)

Используя метод множителей Лагранжа, нетрудно убедиться в том, что задача (41) ~ (42) равносильна системе, включающей уравнение (41) — требование равенства вероятностей ошибок и уравнение , которое с учетом нормальности распределений и равенства дисперсий, равносильно уравнению

, (43)

где С — некоторая постоянная величина.

В рассматриваемом тривиальном случае из (41) следует, что . Поставив x=d в (43), получим С = 0. И сформулированное выше классификационное правило эквивалентно следующему: объект относят к первому классу тогда и только тогда, когда

, (44)

во всех остальных случаях — по второму.

Для m- мерного случайного вектора X классификационное правило в терминах выборки звучит так: объект с координатами относят к первому классу тогда и только тогда, когда

, (45)

и ко второму — во всех остальных случаях. В соотношении (45): - вектор средних значений случайных величин X1,…, Xm в n1-выборке из первого класса, — вектор средних значений этих величин в n2-выборке из второго класса, - рассчитанная по обучающим выборкам оценка ковариационной матрицы вектора X, общей для двух классов. Будем считать, что в n1-выборку попали объекты с номерами 1, 2,…, n1, в n2-выборку — объекты с номерами 1*, 2*,…, n2*, а xij — это значения CB Xj, j=1,…, m, для i-го объекта. Тогда

, j=1,…, m (46)

, (47)

где , (48)

. (49)

Соотношением (45) задается вид дискриминантной функции для двух нормально распределенных совокупностей.

Рассмотрим пример. Пусть Х=(Х1, Х2, Х3). Значения случайных величин Х1, Х2, Хдля обучающих выборок приведены в следующей таблице:


№ 


Выборка из 1-го класса

Выборка из 2-го класса


1

2

3

4

5

Х1 Х2 Х3

9,9 0,34 1,68

9,1 0,09 1,89

9,4 0,21 2,3

9,4 0,28 2,03

Х1 Х2 Х3

5,5 0,05 1,02

5,6 0,48 0,88

4,3 0,41 0,62

7,4 0,62 1,09

6,6 0,5 1,32

Средние






Используя (48), (49) и (47), найдем оценки корреляционных матриц (1) и (2):

,

и оценку ковариационной матрицы вектора X, общей для обоих классов.

Предположив равенство долей объектов каждого класса в общей совокупности (1=2=0,5), найдем составляющие дискриминантной функции (45):

=(9,45 0,23 1,975), =(5,88 0,412 0,986),

. Функция примет вид:

, или

.

Расклассифицируем шесть объектов со значениями признаков Х1, Х2, Х3; указанным в следующей таблице:









f

Класс

1

9,4

0,15

1,91

18,66 > 0

1

2

5,5

1,20

0,68

–13,08 < 0

2

3

5,7

0,66

1,43

–4,49 < 0

2

4

5,2

0,74

1,82

–5,63 < 0

2

5

10,0

0,32

2,62

25,26 > 0

1

6

6,7

0,39

1,24

0,32 > 0

1

В таблице для каждого объекта указаны значения функции и класс, к которому следует отнести объект.

Обобщение классификационного правила (дискриминантной функции (45)) на случай l2 классов, доли объектов которых в общей генеральной совокупности равны 1,2,…,l звучит так: объект с координатами относят к классу с номером jтогда и только тогда, когда для всех j=1,2,…, l. При использовании этого правила потери от неправильной классификации постоянны и минимальны.


3.2.2Реализация методов дискриминантного анализа
в пакете SPSS




3.2.3Примеры решения задач

3.2.3.1Кластерный анализ: простой пример




3.2.3.2Дискриминантный анализ мировой демографической статистики




3.2.3.3Дискриминантный анализ результатов социологического опроса




3.2.3.4Дискриминантный анализ результатов аттестации персонала компании



1   2   3   4   5   6   7   8   9   10

Похожие:

Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconКонспект лекций москва 2004 удк 519. 713(075)+519. 76(075) ббк 22. 18я7 С32
Учебное пособие предназначено для студентов факультета Кибернетики, изучающих на пятом семестре математическую лингвистику и основы...
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие для студентов всех специальностей Саратов 2009 удк 519. 17 Ббк 22. 174 С 32 Рецензенты
С32 Ведение в теорию графов: учеб пособие. Саратов: Сарат гос техн ун-т, 2009. 36с
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие Москва 2002 ббк 63. 3 /2/ я 73 Рецензент: Иванова А. А
Учебное пособие предназначено для студентов I курса всех направлений и всех специальностей дневной формы обучения
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие Москва, 2009 удк 811. 111 Ббк 81. 2Англ к 893 к 893
Учебное пособие предназначено для студентов продвинутого этапа обучения гуманитарных специальностей. Пособие базируется на оригинальном...
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие для студентов гумманитарных специальностей Павлодар удк 811. 124 (075. 8) Ббк 81. 2 Латиня 75 И87
Г. Х демисинова кандидат филологических наук, доцент, зав кафедрой теории и практики перевода пгу
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие Москва 2006 удк 341. 645: 347. 922(075) ббк 67. 412. 2 О 23

Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие для студентов всех специальностей Саратов 2011 удк 510. 6 Ббк 22. 12 С 32 Рецензенты
С 32 Элементарный курс математической логики. Логические функции: учеб пособие. Саратов: Сарат гос техн ун-т, 2011. 32 с
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие Оренбург, 2007 удк 811. 131. 1(075) ббк 81. 2Фр-923 а 23 Рецензенты
Данное учебное пособие предназначено для студентов, занимающихся изучением древних языков и античной культуры и имеет целью помочь...
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие для самостоятельной работы обучающихся Сызрань 2007 Составители: П. П. Гавриш, Ю. А. Мелешкин удк 621. 375 Ббк 32. 85
Учебное пособие предназначено для обучающихся всех специальностей, изучающих теорию электрических цепей
Учебное пособие для студентов всех специальностей Москва 2003 ббк 22. 17я7 удк 519. 22 (075. 8) 6Н1 к 60 iconУчебное пособие для студентов всех специальностей ч луганск 2003 удк 01 Рябова С. В. Основы информационного поиска: Учеб пособие для студ всех специальностей. Ч /С. В. Рябова. Луганск: Изд-во вну им. В. Даля, 2003. 44с
Рябова С. В. Основы информационного поиска: Учеб пособие для студ всех специальностей. Ч /С. В. Рябова.– Луганск: Изд-во вну им....
Разместите кнопку на своём сайте:
ru.convdocs.org


База данных защищена авторским правом ©ru.convdocs.org 2016
обратиться к администрации
ru.convdocs.org