Модели дискриминантного анализа

Наиболее общим применением дискриминантного анализа является включение в исследование многих переменных с целью определения тех из них, которые наилучшим образом разделяют совокупности между собой. Например, исследователь в области рынка, интересующийся предсказанием выбора, который сделают потребители относительно нового товара, произведет с целью получения наиболее точных прогнозов регистрацию возможно большего количества параметров потребления, например, мотивацию, стимулы, доходы и т. д. Другими словами, строится модель, позволяющая лучше всего предсказать, к какой совокупности будет принадлежать тот или иной образец. Существует несколько подходов к формированию подобной модели.

• 1. Пошаговый анализ с включением. В пошаговом анализе дискриминантных функций модель дискриминации строится по шагам. На каждом шаге просматриваются все переменные и находится та из них, которая вносит наибольший вклад в различие между совокупностями. Эта переменная должна быть включена в модель на данном шаге, и происходит переход к следующему шагу.
• 2. Пошаговый анализ с исключением. Можно также двигаться в обратном направлении, в этом случае все переменные будут сначала включены в модель, а затем на каждом шаге будут устраняться переменные, вносящие малый вклад в предсказания. Тогда в качестве результата успешного анализа можно сохранить только значимые переменные, т. е. те переменные, чей вклад в дискриминацию больше остальных.
• 3. F для включения, F для исключения. Эта пошаговая процедура «руководствуется» соответствующим значением F для включения и соответствующим значением F для исключения. Значение F статистики для переменной указывает на ее статистическую значимость при дискриминации между совокупностями, т. е., она является мерой вклада переменной в предсказание членства в совокупности. Используется процедура аналогичная пошаговой множественной регрессии, когда можно интерпретировать значение F для включения/исключения в том же самом смысле, что и в пошаговой регрессии.

Пошаговый дискриминантный анализ основан на использовании статистического уровня значимости. Поэтому по своей природе пошаговые процедуры рассчитывают на случай, так как они «перебирают» переменные, которые должны быть включены в модель для получения максимальной дискриминации. При использовании пошагового метода существует вероятность того, что возможно ошибочное отклонение гипотезы НО (нулевой гипотезы, заключающейся в том, что между совокупностями нет различия).

Рассмотрим поведение линейного дискриминантного анализа. Для двух групп дискриминантный анализ может рассматриваться также как процедура множественной регрессии и производится аналогичная процедура расчета (см. раздел Регрессионный анализ). Если рассматриваются две группы, и затем используются переменные в качестве зависимых переменных в множественной регрессии, то результаты будут аналогичными тем, которые получили бы с помощью дискриминантного анализа. В общем, в случае двух совокупностей и m признаков подбирается линейное уравнение следующего типа:

Группа (У)=а + b_ix₁ + b₂x₂ +… + b_mx_m, где а — константа; b₁…b_m — коэффициенты регрессии.

Установить различия между двумя группами можно, используя дискриминантную функцию, которая представляет собой прямую линию и описывается следующим уравнением:

где, А и В — влияющие переменные, с_х и с₂ — параметры, представляющие связь между влияющими переменными и значением Z — функции.

Коэффициенты уравнения можно определить по следующим формулам:

Графически дискриминанта представляет собой прямую линию, проходящую через начало координат, как это показано на рис. 7.28.

Разделительная линия, показанная на графике пунктиром, является перпендикуляром к Z-функции и проводится таким образом, чтобы наилучшим образом разделить две изучаемые группы. На графике видно, что существуют взаимные проникновения групп (так называемые ошибки группировки), но в целом налицо четкое отличие одной группы от другой.

Рис. 7.28. Дискриминантная функция:

О точки, характеризующие поведение первой группы,.

? точки, характеризующие поведение второй группы Интерпретация результатов задачи с двумя совокупностями тесно следует логике применения множественной регрессии: переменные с наибольшими регрессионными коэффициентами вносят наибольший вклад в дискриминацию. Если коэффициент с_г>с₂, то переменная, А в большей степени объясняет различие между группами, чем переменная В. Надо заметить, что при вычислении дискриминантной функции необходимо, чтобы влияющие переменные были приведены к общему виду (например, измерялись по одной шкале).

Если имеется более двух групп, то можно построить несколько дискриминантных функций. Когда имеются три совокупности, оценивают:

• — функцию для дискриминации между совокупностью 1 и совокупностями 2 и 3, взятыми вместе;
• — функцию для дискриминации между совокупностью 2 и совокупности 3.

Например, можно иметь одну функцию-дискриминанту между пользователями и не пользователями определенного товара, и вторую функцию для дискриминации между пользователями с большим или меньшим уровнем потребления товара. Коэффициенты b в этих дискриминирующих функциях могут быть проинтерпретированы тем же способом, что и ранее.

Метод дискриминантного анализа используют и для прогнозирования принадлежности того или иного объекта к определенной группе. Для этого необходимо определить критическое значение Z. Сначала вычисляют обобщенное значение Ъ_х и Z₂ для двух групп и затем находят среднее.

Если для вновь исследуемого объекта значение Z будет меньше критического, то его причисляют к одной группе, если больше, то к другой. Как и в любом прогнозе, в данном случае существует вероятность ошибки, которая определяется эмпирически из уже проведенного эксперимента, по которому собственно и была построена первоначальная, апостериорная Z-функция.

Условия дискриминантного анализа. Для того чтобы использовать дискриминантный анализ необходимо соблюдать определенные условия, так как без этого результаты не будут иметь значения.

• 1. Изучаемая совокупность должна иметь нормальное распределение. Предполагается, что анализируемые переменные представляют выборку из многомерного нормального распределения. Отметим, однако, что пренебрежение условием нормальности обычно не является фатальным в том смысле, что результирующие критерии значимости все еще заслуживают доверия, но все же наиболее достоверные результаты получаются в случае, когда величина имеет нормальное распределение.
• 2. Однородность дисперсий. Предполагается, что матрицы дисперсий переменных однородны, т. е. имеют близкие значения. Как и ранее, малые отклонения не фатальны, однако прежде чем сделать окончательные выводы при важных исследованиях, неплохо обратить внимание на внутригрупповые матрицы дисперсий и корреляций. В частности, можно построить матричную диаграмму рассеяния, весьма полезную для этой цели.
• 3. Корреляции между средними и дисперсиями. Корректность применения критериев значимости возникает из-за возможной зависимости между средними по совокупностям и дисперсиями (или стандартными отклонениями) между собой. Если имеется большая изменчивость в совокупности с высокими средними в нескольких переменных, то эти высокие средние ненадежны. Однако критерии значимости основываются на объединенных дисперсиях, т. е., на средней дисперсии по всем совокупностям. Поэтому критерии значимости для относительно больших средних (с большими дисперсиями) будут основаны на относительно меньших объединенных дисперсиях и будут ошибочно указывать на статистическую значимость. На практике этот вариант может произойти также, если одна из изучаемых совокупностей содержит несколько экстремальных выбросов, которые сильно влияют на средние и, таким образом, увеличивают изменчивость. Для определения такого случая следует изучить описательные статистики, т. е. средние и стандартные отклонения или дисперсии для таких корреляций.
• 4. Задача с плохо обусловленной матрицей. Другое предположение в дискриминантном анализе заключается в том, что переменные, используемые для дискриминации между совокупностями, не являются полностью избыточными. При вычислении результатов дискриминантного анализа происходит обращение матрицы дисперсий переменных в модели. Если одна из переменных полностью избыточна по отношению к другим переменным, то такая матрица называется плохо обусловленной. Например, если переменная является суммой трех других переменных, то это отразится также и в модели, и рассматриваемая матрица будет плохо обусловленной.
• 5. Значения толерантности. Чтобы избежать плохой обусловленности матриц, необходимо постоянно проверять так называемые значения толерантности для каждой переменной. Значение толерантности вычисляется как:

где г² — коэффициент множественной корреляции для соответствующей переменной со всеми другими переменными в текущей модели.

Таким образом, это есть доля дисперсии, относящаяся к соответствующей переменной.

Другой главной целью применения дискриминантного анализа является проведение классификации. Как только модель установлена и получены дискриминирующие функции, возникает вопрос о том, как хорошо они могут предсказывать, к какой совокупности принадлежит конкретный образец.

Априорная и апостериорная классификация. Априорная классификация подразумевает использование критериев, которые не «испытывались» на определенной совокупности, иными словами для классификации используются критерии, которые можно условно назвать «традиционными». К таким критериям классификации для решения проблем группировки в маркетинге часто относят доход, возраст, пол и т. д. Априорная классификация целесообразна в том случае, когда проблема очевидна. Например, для трикотажной фабрики классификация (группировка) по возрасту может означать априорное различие в выпускаемых размерах одежды и ее дизайне (стиле). Известно, что молодые люди носят небольшие размеры одежды по сравнению со старшим поколением. Апостериорная классификация используется тогда, когда нет четкой ясности, какой критерий является наиболее значимым при делении групп. Например, неясно по каким критериям разделяются группы покупателей телевизоров определенных марок.

В общем случае классификация действует лучшим образом для выборки, по которой была проведена оценка дискриминирующей функции (апостериорная классификация), чем для «свежей» выборки Саприорная классификация). Трудности в случае априорной классификации будущих объектов заключаются в том, что никто не знает, что получится в результате. Намного легче классифицировать уже исследованные объекты. Поэтому оценку качества процедуры классификации никогда не производят по той же самой выборке, по которой была оценена дискриминирующая функция. Если желают использовать процедуру для классификации будущих образцов, то ее следует «испытать» на новых объектах.

В общем, Дискриминантный анализ — это очень полезный инструмент:

• — для поиска переменных, позволяющих относить наблюдаемые объекты в одну или несколько реально наблюдаемых групп,
• — для классификации наблюдений в различные группы.

Пример 1. Метод апостериорной группировки.

С помощью метода дискриминантного анализа получить представление об однородности групп пользователей полов с подогревом в зависимости от двух параметров: возраста и площади квартиры. По результатам опроса были получены данные, представленные в таблице 7.28.

Таблица 7.28

Данные для проведения группировки

Производим вычисления параметров Z-функции (дискриминанты). Результаты представлены в таблице 7.28.

5) дискриминантная функция представляет собой прямую линию, которую можно описать уравнением.

где: А и В — влияющие переменные, с_а и с₂ — параметры, представляющие связь между влияющими переменными и значением Z-функции.

Таблица 7.29.

Определение дискриминанты

Окончание табл. 7.29

Зная значение дискриминантной функции можно осуществлять группировку последующих объектов наблюдения следующим образом:

1) значение функции для группы пользователей.

2) значение функции для группы не пользователей.

3) критическое значение функции.

Предположим, что мы имеем объект со следующими параметрами:

• • возраст 38 лет
• • размер квартиры 52 кв. м
• 3) определяем индивидуальное значение Z

Так как 0,4 <0,434, то этот объект будет отнесен ко второй группе, которую мы назвали «не пользователи».

Пример 2. Формирование сегмента на основе проведенного исследования.

Фирма производит и осуществляет реализацию мебельных гарнитуров для населения. В связи с возрастающий конкуренцией, отдел продвижения нового ассортимента испытывает трудности в определении методов придвижения и ему необходимо определиться с группами потребителей — пользователями мебели определенного вида. Для проведения группировки и выделения сегмента не проводилось никаких предварительных исследований. Отделом маркетинга были предприняты следующие шаги:

• 1. Была подготовлена анкета для сотрудников мебельных салонов и магазинов данного предприятия. Продавцам предлагалось «снимать» портрет покупателей мебельных гарнитуров. Так как ранее исследования не проводились, критерии сегментации были выбраны, исходя из общепринятых и наиболее распространенных:
  • — пол главы семьи (принимающего решения о покупке);
  • — возраст главы семьи;
  • — средний доход на члена семьи;
  • — размер жилой площади;
  • — район проживания;
  • — информированность о качестве мебели.
• 2. По результатам исследований были получены следующие данные. Мебельный гарнитур «NNN» покупают (портрет сегмента пользователей):
  • — принимают решение о покупке в основном мужчины (80%);
  • — средний возраст главы семьи — 35 лет;
  • — средний доход на члена семьи — 250—300 $;
  • — жилая площадь — от 60 кв. м;
  • — район проживания — четкую картину выяснить не удалось;
  • — весьма чувствительны к качеству и знают основные характеристики выпускаемой мебели.
• 3. По результатам опроса были приняты решения о специализированных средствах рекламы для удержания пользователей и расширении группы пользователей, путем работы с не пользователями.