Порядок проведения экспертных опросов и содержание их отдельных этапов

Можно выделить следующие основные этапы экспертных опросов:

А. Подбор экспертов и формирование экспертных групп.

Б. Формирование вопросов и составление анкет.

В. Формирование правил определения суммарных оценок на основе оценок отдельных экспертов.

Г. Работа с экспертами.

Д. Анализ и обработка экспертных оценок.

Кратко рассмотрим содержание отдельных этапов экспертных опросов.

А. Подбор экспертов и формирование экспертных групп На первом этапе, исходя из целей экспертного опроса, решаются вопросы относительно структуры экспертной группы, количества экспертов и их индивидуальных качеств, иными словами, определяются направления (разработка нового продукта, ценообразование, сбыт и т. п.), по которым необходимо или желательно привлечь экспертов (устанавливается специализация экспертов). Далее по каждому направлению выделяются подгруппы экспертов и устанавливается количество экспертов в каждой подгруппе, которое зависит от конкретной постановки задачи и должно обеспечивать необходимый охват и полноту аспектов по каждому конкретному вопросу. Затем определяются требования к квалификации экспертов, стажу их работы в данной области опроса и общему стажу.

Определение численности экспертной группы можно осуществлять на основе использования рассмотренных выше показателей математической статистики или на основе «прагматического» подхода.

Зачастую расчеты по формулам математической статистики дают слишком высокие значения численности экспертной группы (порой больше 100 экспертов), поэтому на практике можно рекомендовать использовать «прагматический» подход, который не является столь теоретически обоснованным, как первый подход, но зато легко реализуемым.

Оценки численности группы экспертов в этом случае можно произвести, руководствуясь следующими соображениями. Ясно, что численность группы не должна быть малой, так как в этом случае был бы потерян смысл формирования экспертных оценок, определяемых группой специалистов. Кроме того, на групповые экспертные оценки в значительной степени влияла бы оценка каждого эксперта. При увеличении группы экспертов хотя и устраняются эти недостатки, но зато появляется опасность возникновения новых. Так, при очень большом числе экспертов оценка каждого из них в отдельности почти не влияет на групповую оценку. Причем рост численности экспертной группы далеко не всегда приносит повышение достоверности оценок. Часто расширение группы экспертов возможно лишь за счет привлечения малоквалифицированных специалистов, что в свою очередь может привести лишь к уменьшению достоверности групповых оценок. Одновременно с ростом числа экспертов увеличиваются трудности, связанные с обработкой результатов опроса и координацией работы группы. Следовательно, существуют некоторые граничные оценки численности группы экспертов Nmin и Nmax, которые определяются следующим образом.

Нижняя оценка численности N_min должна зависеть от числа оцениваемых событий. Данное предположение основано на существовани" правила, которое обычно соблюдается при работе ученых советов, комиссий специалистов и т. д., а именно — требований представительности группы, состоящей из N экспертов, для принятия решений по множеству m событий, которое можно представить как N? m. Поэтому принимаем N_min? m.

Верхней границей численности экспертной группы является потенциально возможное число экспертов:

(1).

откуда действительное значение численности группы N находится в пределах.

(2).

После того как найдена численность группы, определяется ее структура и состав, т. е. подбираются в группу эксперты требуемой специализации и квалификации. Для того чтобы экспертная группа могла всесторонне произвести оценку событий, число экспертов N_l каждого l-го направления желательно выбрать одинаковым:

r — число направлений Далее должно быть учтено одно ограничение, касающееся соответствия целей экспертов целям экспертного опроса, т. е. необходимо установить, имеется ли тенденция у отдельных экспертов необъективно оценивать рассматриваемые события. Для этого желательно выявить потенциальные возможные цели экспертов, противоречащие целям получения объективных результатов. Анализируя предшествующую деятельность экспертов, необходимо выяснить наличие причин, которые приводят к стремлению завышать или занижать оценки так, чтобы повлиять на групповые в желательном для себя либо для других лиц направлении.

На основе сформулированных выше условий последовательность формирования группы экспертов может быть следующей. Сначала определяется потенциально возможное число экспертов N_n, а также минимально допустимая численность группы N_min. После этого среди потенциально возможных экспертов выделяют группу специалистов N_k (N_k? N_n) требуемой квалификации для оцениваемого класса событий. Затем из N_k исключают тех экспертов, чьи потенциально возможные цели могут противоречить целям получения объективных результатов. Из оставшихся экспертов N_ц (N_ц? N_k) формируют группу так, чтобы в ней обеспечивалось равночисленное представительство разных направлений. Для этого вначале определяют максимально возможное число представителей каждого направления как.

(4).

После этого проверяют соотношение N? Nmin. Если оно не удовлетворяется, то необходимо выяснить возможность ослабления приведенных выше ограничений либо допустимость нарушения условия N? Nmin, что связано с важностью принимаемых решении на основе экспертных оценок.

Б. Формирование вопросов и составление анкет Правила опроса экспертов содержат ряд положений, обязательных к выполнению всеми. Эти правила должны обеспечивать соблюдение условий, благоприятствующих формированию экспертами объективного мнения. В число таких условий входит:

• — независимость формирования экспертами собственного мнения об оцениваемых событиях;
• — удобство работы с предполагаемыми анкетами (вопросы формулируются в общепринятых терминах и должны исключать всякую смысловую неоднозначность и др.);
• — логическое соответствие вопросов структуре объекта опроса;
• — приемлемые затраты времени на ответы по вопросам анкеты, удобное время получения вопросов и выдачи ответов;
• — сохранение анонимности ответов для членов экспертной группы;
• — проведение коллективных обсуждений оцениваемых событий;

предоставление экспертам требуемой информации.

Для обеспечения выполнения этих условий должны быть разработаны правила проведения опроса и организации работы экспертной группы. Причем в них должна быть учтена специфика оцениваемых событий, а также особенности организаций, из которых приглашаются эксперты.

В. Формирование правил определения суммарных оценок на основе оценок отдельных экспертов Если имеются оценки a_ij событий (факторов) С_i определенные каждым n_j є N экспертом, то возникает вопрос о том, каким образом могут быть получены групповые оценки событий.

В общем случае групповая оценка a_i каждого С_i события зависит от оценок экспертами этого события и степени компетентности h_j, экспертов. Степень компетентности h_j, эксперта учитывает его опыт и квалификацию и является основной характеристикой эксперта, которая используется при определении групповых оценок. Поэтому.

(5).

Следовательно, задание способа формирования групповых экспертных оценок состоит в определении этой функции. Причем необходимо, чтобы она была строго монотонно возрастающей по a_ij и h_j).

Этому условию удовлетворяет множество функций. Обычно полагают, что функцию (1) можно представить как.

(6).

При равной компетентности экспертов эта формула принимает вид средней оценки.

(7).

В зависимости от специфики экспертного опроса, объекта исследования и используемой методики обработки экспертных данных оценки a_ij могут иметь различную шкалу измерения: от 0 до 1, от 0 до 10 и от 0 до 100. Принципиальной разницы в данных шкалах нет, выбор той или иной из них во многом определяется удобством получения и обработки оценок, а также вкусом исследователя, проводящего экспертный опрос.

Для того чтобы учитывать различие в компетентности экспертов, им могут быть приписаны различные «веса», которые учитываются при определении групповых оценок. Причем значения этих коэффициентов интерпретируются как вероятность задания экспертом достоверной оценки. Тогда 0 < h_j? 1. Значения весовых коэффициентов могут быть использованы при построении системы стимулирования работы группы экспертов. Например, дополнительная оплата за работу по оценке событий определится пропорционально весовому коэффициенту эксперта.

Существуют различные приемы оценки компетентности эксперта, выбор которых определяется как характером решаемой задачи, так и возможностями проведения конкретного экспертного опроса.

На наш взгляд, оценку следует строить на основе определенной шкалы, каждый балл которой определяется с помощью выбора соответствующих характеристик, оценивающих квалификацию эксперта. При этом должен быть учтен уровень квалификации эксперта в узкой области специализации, уровень теоретической подготовки, его практический опыт и широта кругозора. Перечисленные характеристики лучше всего оценивать по десятибалльной шкале, разработанной специально к конкретному экспертному опросу. Полученные характеристики следует свести в один показатель, характеризующий объективную оценку компетентности эксперта, — h_j⁰.

Кроме того, целесообразно определить показатель относительной самооценки эксперта (субъективный показатель — h^c_j). Этот показатель получается следующим образом: для каждого вопроса или группы вопросов, по которым считается необходимым оценить компетентность эксперта, в таблице экспертных оценок предусматривается шкала под названием «относительная самооценка эксперта». В ней эксперту самому предлагается проставить себе балл по десятибалльной шкале, ориентируясь, к примеру, на следующие значения баллов:

• 10 — эксперт специализируется по данному вопросу, имеет по нему законченные теоретические или практические разработки (научные исследования, запущенные в производство технические разработки, данный вопрос непосредственно относится к области его узкой служебной деятельности);
• 8 — в практическом решении данного вопроса эксперт участвует, но этот вопрос не входит в сферу его узкой специализации;
• 5 — вопрос входит в сферу тесно связанного с его узкой специализацией направления (смежная прикладная дисциплина, смежная область практической деятельности);
• 3 — вопрос не входит в сферу тесно связанного с его узкой специализацией направления (например, знакомство с проблемой по литературным источникам, по работе на другом предприятии и т. п.).

В целом показатель «относительная самооценка эксперта» направлен на то, чтобы эксперт сам оценил уровень своей компетентности по заданному вопросу.

Для того чтобы шкала баллов не оказывала влияния на самооценку, в графе «относительная самооценка эксперта» можно привести перечень характеристик компетентности экспертов без проставления баллов. В этом случае эксперт должен подчеркнуть те характеристики, которые, по его мнению, определяют уровень личной компетентности. Баллы проставляются рабочей группой при анализе собранных анкет.

Произведение объективного и субъективного показателей, деленное на сто, будет характеризовать компетентность эксперта по данному вопросу, т. е.

(8).

Деление на 100 нужно для приведения диапазона изменения h_j, к виду 0 < h_j? 1. Тогда показатель компетентности эксперта можно трактовать как вероятность задания им достоверной оценки.

При неоднократном повторении опроса одним и тем же коллективом экспертов (либо устойчивым большинством) по сходным вопросам можно и необходимо на каждом новом опросе воспользоваться уже накопленными результатами для уточнения характеристик компетентности экспертов.

Кроме того, компетентность экспертов может быть определена самими экспертами. Для этого каждый эксперт, входящий в группу, задает весовые коэффициенты всем остальным экспертам, кроме себя. Далее определяется среднеарифметическая оценка компетентности каждого эксперта.

Если экспертиза проводится неоднократно одной и той же группой (или устойчивым большинством) экспертов по сходным вопросам, следует при каждом новом опросе воспользоваться уже полученными результатами для уточнения характеристик компетентности экспертов.

Практика экспертных опросов показывает, что, хотя методы самооценки недостаточны для того, чтобы служить единственным критерием оценки компетентности экспертов, использование этих методов способствует более обоснованным выбору и оценке экспертов.

Таким образом, получены данные, подтверждающие связь между средней групповой самооценкой (частное от деления суммы индивидуальных на число экспертов в группе) и точностью экспертизы. На рис. 1 изображена кривая, показывающая зависимость между средней групповой самооценкой (у) и средней групповой ошибкой (х).

Рис. 1. Влияние средней групповой самооценки на точность экспертизы

Между этими величинами существует обратная связь, заключающаяся в том, что средняя групповая ошибка монотонно убывает с возрастанием средней самооценки. Из этого вытекает следующий вывод. Пусть, например, группа кандидатов в эксперты со средней оценкой С разделена на две подгруппы, из которых подгруппа, А имеет более высокую самооценку, чем группа в целом, а подгруппа В — более низкую. Тогда подгруппа, А будет в среднем более точной, чем вся группа, а подгруппа В — менее точной.

С другой стороны, различные подходы к оценке компетентности экспертов можно рассмотреть и с иных позиций. Экспертные оценки носят субъективный характер, оценка компетентности экспертов — также. Возникает вопрос: повышает ли точность результатов экспертизы наложение субъективных оценок компетентности экспертов? Может быть, проще определять окончательные оценки без формализованного учета компетентности экспертов? Только при этом следует на этапе отбора экспертов уделить больше внимания неформальной оценке уровня их квалификации, а затем, при подведении результатов экспертизы, считать их всех равнокомпетентньми, и в качестве интегральной оценки рассматривать среднеарифметическое их отдельных оценок. Часто на практике поступают именно таким образом.

Г. Работа с экспертами В зависимости от характера исследуемого объекта, от степени его формализации и возможности привлечения необходимых экспертов порядок работы с ними может быть различным, но в основном он содержит следующие три этапа.

На первом этапе эксперты привлекаются в индивидуальном порядке с целью уточнить модель объекта, ее параметры и показатели, подлежащие экспертной оценке; уточнить формулировки вопросов и терминологию в анкетах; согласовать целесообразность представления таблиц экспертных оценок в той или иной форме; уточнить состав группы экспертов.

На втором этапе экспертам направляются анкеты с пояснительным письмом, в котором описывается цель работы, структура и порядок заполнения анкет с примерами.

Когда имеется возможность собрать экспертов вместе, особенно если удается их сгруппировать в соответствии с какими-либо признаками, существенно важными для данного опроса, например эксперты из одной организации, только сотрудники сбытовых служб, то цели и задачи анкетирования, а также все вопросы, связанные с анкетированием, могут быть доложены устно. Обязательное условие такой формы экспертного опроса — последующее самостоятельное заполнение анкет при соблюдении всех правил анкетирования.

Третий этап работы с экспертами осуществляется после получения результатов опроса и изучения исследуемого объекта другими методами в процессе обработки и анализа полученных результатов. На этом этапе от экспертов в форме консультаций обычно получают всю недостающую информацию, которая требуется для уточнения полученных данных и их окончательного анализа.

Д. Анализ и обработка экспертных оценок При проведении анализа собранных экспертных данных в соответствии с целями исследования и принятыми моделями необходимо определить согласованность действий экспертов и достоверность экспертных оценок.

Пусть для каждого события C_I на основании оценок a_ij, заданных группой из Р экспертов, образована матрица рангов важности — II б_ij II, где i=1, 2,…, m — число событий, j=1, 2,…, p — число экспертов. Матрица II б_ij II получается из матрицы II б_ij II путем определения, исходя из коэффициентов относительной важности событий б_ij, рангов важности этих событий, т. е. событиям присваиваются номера 1, 2, 3,…, m натурального ряда чисел.

Таким образом, при ранжировании события располагаются в порядке возрастания или убывания какого-либо признака X, количественно неизмеримого. Ранг a_i указывает то место, которое занимает i-е событие среди других m событий, ранжированных в соответствии с признаком X.

Ранжирование применяется, когда события располагаются согласно неизмеримому и неподсчитываемому качеству (например, потребительские свойства товара, направления совершенствования товара и т. д.) или рассматриваются только относительно взаимного расположения во времени или пространстве. Ранжирование может являться менее точным выражением упорядоченной связи событий относительно какого-либо измеримого или подсчитываемого качества как замена переменной порядковым номером в прикидочных расчетах в целях экономии времени и уменьшения трудоемкости вычислений.

При использовании рангов важности для сравнения результатов (событий) нельзя установить, насколько один результат лучше другого, можно только определить ряд предпочтения рассматриваемых результатов. Иными словами, числа, характеризующие порядковую меру предпочтительности результатов, при сравнении, предположим, событий, А и Б нельзя делить или вычитать, пытаясь узнать, насколько первый результат лучше второго.

Будем рассматривать упорядоченную последовательность суммарных рангов m событий, которую представим в виде.

(9).

В табл. 2 приводится условный пример определения рангов важности событий исходя из их коэффициентов относительной важности. (Более важное событие имеет меньший ранг важности.).

Среднее значение для суммарных рангов рассматриваемого ряда.

(10).

Таблица 2. Определение рангов важности.

Суммарное квадратическое отклонение 5 суммарных событий от среднего значения, а есть.

(11).

Величина S достигает максимального значения в случае, если все р экспертов дадут одинаковые оценки каждому Сi событию.

Тогда рассматриваемый ряд суммарных рангов будет иметь вид р, 2р,…, mр. Вычтем из этого ряда среднее значение:

Сумма квадратов этого ряда равняется.

(12).

Очевидно, что в качестве меры согласованности экспертов можно принять отношение.

(13).

называемое коэффициентом конкордации. Величина W изменяется в пределах от 0 до 1. При W = 0 согласованности совершенно нет, т. е. связь между оценками различных экспертов отсутствует. Наоборот, при W = 1 согласованность мнений экспертов полная.

В том случае, если последовательность кроме строгих неравенств имеет равенства, т. е. существует совпадение рангов, то формула для вычисления коэффициента конкордации имеет вид.

(14).

Когда ранги повторяются, то для получения нормальной ранжировки, имеющей среднее значение ранга, равное ,.

необходимо приписать событиям, имеющим одинаковые ранги, ранг, равный среднему значению мест, которые эти события поделили между собой.

Например, получена следующая ранжировка событий:

Таблица 3.

События 2 и 5 поделили между собой второе и третье места. Значит, им приписывается ранг.

события 3, 4 и 6 поделили между собой четвертое, пятое, шестое места, и им приписывается ранг.

Таким образом, получаем нормальную ранжировку:

Таблица 4.

Для крайних значений коэффициента конкордации могут быть высказаны следующие предположения. Если W = 0, то согласованности в оценках нет, поэтому для получения достоверных оценок следует уточнить исходные данные о событиях и (либо) изменить состав группы экспертов. При W = 1 далеко не всегда можно считать полученные оценки объективными, поскольку иногда оказывается, что все члены экспертной группы заранее сговорились, защищая свои общие интересы.

Необходимо, чтобы найденное значение W было больше заданного значения Wз (W > Wз). Можно принять Wз = 0,5, т. е. при W > 0.5 действия экспертов в большей степени согласованы, чем не согласованы. При W < 0,5 полученные оценки нельзя считать достоверными, и поэтому следует повторить опрос заново. Жесткость данного утверждения определяется важностью проводимого исследования и возможностью повторной экспертизы. Практика показывает, что очень часто этим требованием пренебрегают.