Разработка плана маркетингового исследования с привлечением экспертов

Можно выделить следующие основные этапы плана маркетингового исследования с привлечением экспертов:

А. Подбор экспертов и формирование экспертных групп.

Б. Формирование вопросов и составление анкет.

В. Формирование правил определения суммарных оценок на основе оценок отдельных экспертов.

Г. Работа с экспертами.

Д. Анализ и обработка экспертных оценок.

Кратко рассмотрим содержание отдельных этапов экспертных опросов.

А. Подбор экспертов и формирование экспертных групп

На первом этапе, исходя из целей экспертного опроса, решаются вопросы относительно структуры экспертной группы, количества экспертов и их индивидуальных качеств, иными словами, определяются направления (разработка нового продукта, ценообразование, сбыт и т. п.), по которым необходимо или желательно привлечь экспертов (устанавливается специализация экспертов). Далее по каждому направлению выделяются подгруппы экспертов и устанавливается количество экспертов в каждой подгруппе, которое зависит от конкретной постановки задачи и должно обеспечивать необходимый охват и полноту аспектов по каждому конкретному вопросу. Затем определяются требования к квалификации экспертов, стажу их работы в данной области опроса и общему стажу.

Определение численности экспертной группы можно осуществлять на основе использования рассмотренных выше показателей математической статистики или на основе «прагматического» подхода.

Зачастую расчеты по формулам математической статистики дают слишком высокие значения численности экспертной группы (порой больше 100 экспертов), поэтому на практике можно рекомендовать использовать «прагматический» подход, который не является столь теоретически обоснованным, как первый подход, но зато легко реализуемым.

Оценки численности группы экспертов в этом случае можно произвести, руководствуясь следующими соображениями. Ясно, что численность группы не должна быть малой, так как в этом случае был бы потерян смысл формирования экспертных оценок, определяемых группой специалистов. Кроме того, на групповые экспертные оценки в значительной степени влияла бы оценка каждого эксперта. При увеличении группы экспертов хотя и устраняются эти недостатки, но зато появляется опасность возникновения новых. Так, при очень большом числе экспертов оценка каждого из них в отдельности почти не влияет на групповую оценку. Причем рост численности экспертной группы далеко не всегда приносит повышение достоверности оценок. Часто расширение группы экспертов возможно лишь за счет привлечения малоквалифицированных специалистов, что в свою очередь может привести лишь к уменьшению достоверности групповых оценок. Одновременно с ростом числа экспертов увеличиваются трудности, связанные с обработкой результатов опроса и координацией работы группы. Следовательно, существуют некоторые граничные оценки численности группы экспертов Nmin и Nmax, которые определяются следующим образом[3].

Нижняя оценка численности N_min должна зависеть от числа оцениваемых событий. Данное предположение основано на существовани" правила, которое обычно соблюдается при работе ученых советов, комиссий специалистов и т. д., а именно — требований представительности группы, состоящей из N экспертов, для принятия решений по множеству m событий, которое можно представить как N? m. Поэтому принимаем N_min? m.

Верхней границей численности экспертной группы является потенциально возможное число экспертов:

откуда действительное значение численности группы N находится в пределах.

После того как найдена численность группы, определяется ее структура и состав, т. е. подбираются в группу эксперты требуемой специализации и квалификации. Для того чтобы экспертная группа могла всесторонне произвести оценку событий, число экспертов N_l каждого l-го направления желательно выбрать одинаковым:

r — число направлений Далее должно быть учтено одно ограничение, касающееся соответствия целей экспертов целям экспертного опроса, т. е. необходимо установить, имеется ли тенденция у отдельных экспертов необъективно оценивать рассматриваемые события. Для этого желательно выявить потенциальные возможные цели экспертов, противоречащие целям получения объективных результатов. Анализируя предшествующую деятельность экспертов, необходимо выяснить наличие причин, которые приводят к стремлению завышать или занижать оценки так, чтобы повлиять на групповые в желательном для себя либо для других лиц направлении.

На основе сформулированных выше условий последовательность формирования группы экспертов может быть следующей. Сначала определяется потенциально возможное число экспертов N_n, а также минимально допустимая численность группы N_min. После этого среди потенциально возможных экспертов выделяют группу специалистов N_k (N_k? N_n) требуемой квалификации для оцениваемого класса событий. Затем из N_k исключают тех экспертов, чьи потенциально возможные цели могут противоречить целям получения объективных результатов. Из оставшихся экспертов N_ц (N_ц? N_k) формируют группу так, чтобы в ней обеспечивалось равночисленное представительство разных направлений. Для этого вначале определяют максимально возможное число представителей каждого направления как.

Потом находят направление с наименьшим числом экспертов N^max_l, которое входит в группу N_U. Тогда общая численность группы будет определяться по формуле:

После этого проверяют соотношение N >= N^min, если оно не удовлетворяется, то необходимо выяснить возможность ослабления приведенных выше ограничений либо допустимость нарушения условия N >= N^min, что связано с важностью принимаемых решении на основе экспертных оценок[1].

Б. Формирование вопросов и составление анкет

Правила опроса экспертов содержат ряд положений, обязательных к выполнению всеми. Эти правила должны обеспечивать соблюдение условий, благоприятствующих формированию экспертами объективного мнения. В число таких условий входит:

• — независимость формирования экспертами собственного мнения об оцениваемых событиях;
• — удобство работы с предполагаемыми анкетами (вопросы формулируются в общепринятых терминах и должны исключать всякую смысловую неоднозначность);
• — логическое соответствие вопросов структуре объекта опроса;
• — приемлемые затраты времени на ответы по вопросам анкеты, удобное время получения вопросов и выдачи ответов;
• — сохранение анонимности ответов для членов экспертной группы;
• — проведение коллективных обсуждений оцениваемых событий;
• — предоставление экспертам требуемой информации.

Для обеспечения выполнения этих условий должны быть разработаны правила проведения опроса и организации работы экспертной группы. Причем в них должна быть учтена специфика оцениваемых событий, а также особенности организаций, из которых приглашаются эксперты.

В. Формирование правил определения суммарных оценок на основе оценок отдельных экспертов

Если имеются оценки a_ij событий (факторов) С_i определенные каждым n_j є N экспертом, то возникает вопрос о том, каким образом могут быть получены групповые оценки событий.

В общем случае групповая оценка a_i каждого С_i события зависит от оценок экспертами этого события и степени компетентности h_j, экспертов. Степень компетентности h_j, эксперта учитывает его опыт и квалификацию и является основной характеристикой эксперта, которая используется при определении групповых оценок. Поэтому.

Следовательно, задание способа формирования групповых экспертных оценок состоит в определении этой функции. Причем необходимо, чтобы она была строго монотонно возрастающей по a_ij и h_j).

Этому условию удовлетворяет множество функций. Обычно полагают, что функцию (1) можно представить как.

При равной компетентности экспертов эта формула принимает вид средней оценки.

В зависимости от специфики экспертного опроса, объекта исследования и используемой методики обработки экспертных данных оценки a_ij могут иметь различную шкалу измерения: от 0 до 1, от 0 до 10 и от 0 до 100. Принципиальной разницы в данных шкалах нет, выбор той или иной из них во многом определяется удобством получения и обработки оценок, а также вкусом исследователя, проводящего экспертный опрос.

Для того чтобы учитывать различие в компетентности экспертов, им могут быть приписаны различные «веса», которые учитываются при определении групповых оценок. Причем значения этих коэффициентов интерпретируются как вероятность задания экспертом достоверной оценки. Тогда 0 < h_j? 1. Значения весовых коэффициентов могут быть использованы при построении системы стимулирования работы группы экспертов. Например, дополнительная оплата за работу по оценке событий определится пропорционально весовому коэффициенту эксперта.

Существуют различные приемы оценки компетентности эксперта, выбор которых определяется как характером решаемой задачи, так и возможностями проведения конкретного экспертного опроса.

На наш взгляд, оценку следует строить на основе определенной шкалы, каждый балл которой определяется с помощью выбора соответствующих характеристик, оценивающих квалификацию эксперта. При этом должен быть учтен уровень квалификации эксперта в узкой области специализации, уровень теоретической подготовки, его практический опыт и широта кругозора. Перечисленные характеристики лучше всего оценивать по десятибалльной шкале, разработанной специально к конкретному экспертному опросу. Полученные характеристики следует свести в один показатель, характеризующий объективную оценку компетентности эксперта, — h_j⁰.

Кроме того, целесообразно определить показатель относительной самооценки эксперта (субъективный показатель — h^c_j). Этот показатель получается следующим образом: для каждого вопроса или группы вопросов, по которым считается необходимым оценить компетентность эксперта, в таблице экспертных оценок предусматривается шкала под названием «относительная самооценка эксперта». В ней эксперту самому предлагается проставить себе балл по десятибалльной шкале, ориентируясь, к примеру, на следующие значения баллов:

• 10 — эксперт специализируется по данному вопросу, имеет по нему законченные теоретические или практические разработки (научные исследования, запущенные в производство технические разработки, данный вопрос непосредственно относится к области его узкой служебной деятельности);
• 8 — в практическом решении данного вопроса эксперт участвует, но этот вопрос не входит в сферу его узкой специализации;
• 5 — вопрос входит в сферу тесно связанного с его узкой специализацией направления (смежная прикладная дисциплина, смежная область практической деятельности);
• 3 — вопрос не входит в сферу тесно связанного с его узкой специализацией направления (например, знакомство с проблемой по литературным источникам, по работе на другом предприятии и т. п.).

В целом показатель «относительная самооценка эксперта» направлен на то, чтобы эксперт сам оценил уровень своей компетентности по заданному вопросу.

Для того чтобы шкала баллов не оказывала влияния на самооценку, в графе «относительная самооценка эксперта» можно привести перечень характеристик компетентности экспертов без проставления баллов. В этом случае эксперт должен подчеркнуть те характеристики, которые, по его мнению, определяют уровень личной компетентности. Баллы проставляются рабочей группой при анализе собранных анкет. Анкета для определения компетентности экспертов приводится в табл.1 приложения, А Произведение объективного и субъективного показателей, деленное на сто, будет характеризовать компетентность эксперта по данному вопросу, т. е.

Деление на 100 нужно для приведения диапазона изменения h_j, к виду 0 < h_j? 1. Тогда показатель компетентности эксперта можно трактовать как вероятность задания им достоверной оценки.

При неоднократном повторении опроса одним и тем же коллективом экспертов (либо устойчивым большинством) по сходным вопросам можно и необходимо на каждом новом опросе воспользоваться уже накопленными результатами для уточнения характеристик компетентности экспертов.

Кроме того, компетентность экспертов может быть определена самими экспертами. Для этого каждый эксперт, входящий в группу, задает весовые коэффициенты всем остальным экспертам, кроме себя. Далее определяется среднеарифметическая оценка компетентности каждого эксперта.

Если экспертиза проводится неоднократно одной и той же группой (или устойчивым большинством) экспертов по сходным вопросам, следует при каждом новом опросе воспользоваться уже полученными результатами для уточнения характеристик компетентности экспертов.

Практика экспертных опросов показывает, что, хотя методы самооценки недостаточны для того, чтобы служить единственным критерием оценки компетентности экспертов, использование этих методов способствует более обоснованным выбору и оценке экспертов.

Таким образом, получены данные, подтверждающие связь между средней групповой самооценкой (частное от деления суммы индивидуальных на число экспертов в группе) и точностью экспертизы [2].

На рис. 2.1 изображена кривая, показывающая зависимость между средней групповой самооценкой (у) и средней групповой ошибкой (х).

1 В 2 С 3 А Y.

Рис. 1. Влияние средней групповой самооценки на точность экспертизы

Между этими величинами существует обратная связь, заключающаяся в том, что средняя групповая ошибка монотонно убывает с возрастанием средней самооценки. Из этого вытекает следующий вывод. Пусть, например, группа кандидатов в эксперты со средней оценкой С разделена на две подгруппы, из которых подгруппа, А имеет более высокую самооценку, чем группа в целом, а подгруппа В — более низкую. Тогда подгруппа, А будет в среднем более точной, чем вся группа, а подгруппа В — менее точной.

С другой стороны, различные подходы к оценке компетентности экспертов можно рассмотреть и с иных позиций. Экспертные оценки носят субъективный характер, оценка компетентности экспертов — также. Возникает вопрос: повышает ли точность результатов экспертизы наложение субъективных оценок компетентности экспертов? Может быть, проще определять окончательные оценки без формализованного учета компетентности экспертов? Только при этом следует на этапе отбора экспертов уделить больше внимания неформальной оценке уровня их квалификации, а затем, при подведении результатов экспертизы, считать их всех равнокомпетентньми, и в качестве интегральной оценки рассматривать среднеарифметическое их отдельных оценок. Часто на практике поступают именно таким образом.

Г. Работа с экспертами

В зависимости от характера исследуемого объекта, от степени его формализации и возможности привлечения необходимых экспертов порядок работы с ними может быть различным, но в основном он содержит следующие три этапа.

На первом этапе эксперты привлекаются в индивидуальном порядке с целью уточнить модель объекта, ее параметры и показатели, подлежащие экспертной оценке; уточнить формулировки вопросов и терминологию в анкетах; согласовать целесообразность представления таблиц экспертных оценок в той или иной форме; уточнить состав группы экспертов.

На втором этапе экспертам направляются анкеты с пояснительным письмом, в котором описывается цель работы, структура и порядок заполнения анкет с примерами.

Когда имеется возможность собрать экспертов вместе, особенно если удается их сгруппировать в соответствии с какими-либо признаками, существенно важными для данного опроса, например эксперты из одной организации, только сотрудники сбытовых служб, то цели и задачи анкетирования, а также все вопросы, связанные с анкетированием, могут быть доложены устно. Обязательное условие такой формы экспертного опроса — последующее самостоятельное заполнение анкет при соблюдении всех правил анкетирования.

Третий этап работы с экспертами осуществляется после получения результатов опроса и изучения исследуемого объекта другими методами в процессе обработки и анализа полученных результатов. На этом этапе от экспертов в форме консультаций обычно получают всю недостающую информацию, которая требуется для уточнения полученных данных и их окончательного анализа[3].

Д. Анализ и обработка данных

Анализ данных начинается с перевода «сырых» данных в осмысленную информацию и включает их введение в компьютер, проверку на предмет ошибок, кодирование, представление в матричной форме (табулирование). Все это называется преобразованием исходных данных.

Далее проводится статистический анализ, т. е. определяются средние величины, частоты, корреляционные и регрессионные соотношения, осуществляется анализ трендов.

После сбора данных необходимо их преобразовать, т. е. привести к более сжатому виду, удобному для анализа и обладающему достаточной для заказчика информацией. Обычно закодированные исходные данные представляются в виде матрицы (осуществляется табулирование), столбцы которой содержат ответы на различные вопросы анкеты, а ряды — респондентов или изучаемые ситуации. Преобразование данных заключается в описании данных матрицы на языке ограниченного числа мер, характеризующих собранные данные. Табулирование помогает исследователю понять, что означают собранные данные. Одновременный анализ двух и более категорий опрашиваемых называется перекрестной табуляцией.

Исследователь, осуществляя преобразование, старается найти зависимости среди собранных данных и в то же время достигнуть наиболее высокого уровня обобщения.