Главная > Учебное пособие


3.4.2. Математические методы анализа экспертных оценок

 Современная теория измерений и экспертные оценки. Как проводить анализ собранных рабочей группой ответов экспертов? Для более углубленного рассмотрения проблем экспертных оценок понадобятся некоторые понятия так называемой репрезентативной теории измерений(глава 2.1), служащей основой теории экспертных оценок, прежде всего той ее части, которая связана с анализом заключений экспертов, выраженных в качественном (а не в количественном) виде.

 Репрезентативная (т.е. связанная с представлением отношений между реальными объектами в виде отношений между числами) теория измерений (в дальнейшем сокращенно РТИ) является одной из составных частей эконометрики [1]. А именно, она входит в состав статистики объектов нечисловой природы. Нас РТИ интересует прежде всего в связи с развитием теории и практики экспертного оценивания, в частности, в связи с агрегированием мнений экспертов, построением обобщенных показателей (их называют также рейтингами).

 Получаемые от экспертов мнения часто выражены в порядковой шкале, т.е. эксперт может сказать (и обосновать), что один тип продукции будет более привлекателен для потребителей. Чем другой, одинпоказатель качества продукции более важен, чем другой, первый технологический объект более опасен, чем второй, и т.д. Но он не в состоянии сказать, во сколько раз или на сколько более важен, соответственно, более опасен. Поэтому экспертов часто просят дать ранжировку (упорядочение) объектов экспертизы, т.е. расположить их в порядке возрастания (или, точнее, неубывания) интенсивности интересующей организаторов экспертизы характеристики.

 Ранг - это номер (объекта экспертизы) в упорядоченном ряду. Формально ранги выражаются числами 1, 2, 3, ..., но весьма важно то, что с этими числами нельзя делать привычные арифметические операции. Например, хотя 2 + 3 = 5, но нельзя утверждать, что для объекта, стоящем на третьем месте в упорядочении (в другой терминологии - ранжировке), интенсивность изучаемой характеристики равна сумме интенсивностей объектов с рангами 1 и 2. Так, один из видов экспертного оценивания - оценки учащихся. Вряд ли кто-либо будет всерьез утверждать, что знания отличника равны сумме знаний двоечника и троечника (хотя 5 = 2 + 3), хорошист соответствует двум двоечникам (2 + 2 = 4), а между отличником и троечником такая же разница, как между хорошистом и двоечником (5 - 3 = 4 - 2). Поэтому очевидно, что для анализа подобного рода качественных данных необходима не обычная арифметика, а другая теория, дающая базу для разработки, изучения и применения конкретных методов расчета. Эта другая теория и есть РТИ. Основы РТИ рассмотрены в главе 2.1.

 Рассмотрим в качестве примера применения результатов теории измерений, связанных со средними величинами в порядковой шкале, один сюжет, связанный с ранжировками и рейтингами.

Методы средних баллов. В настоящее время распространены экспертные, маркетинговые, квалиметрические, социологические и иные опросы, в которых опрашиваемых просят выставить баллы объектам, изделиям, технологическим процессам, предприятиям, проектам, заявкам на выполнение научно-исследовательских работ, идеям, проблемам, программам, политикам и т.п. Затем рассчитывают средние баллы и рассматривают их как интегральные (т.е. обобщенные, итоговые) оценки, выставленные коллективом опрошенных экспертов. Какими формулами пользоваться для вычисления средних величин? Ведь средних величин существует, как мы знаем, очень много разных видов.

Обычно применяют среднее арифметическое. Специалисты по теории измерений уже около 30 лет знают, что такой способ некорректен, поскольку баллы обычно измерены в порядковой шкале (см. выше). Обоснованным является использование медиан в качестве средних баллов. Однако полностью игнорировать средние арифметические нецелесообразно из-за их привычности и распространенности. Поэтому представляется рациональным использовать одновременно оба метода - и метод средних арифметических рангов (баллов), и методов медианныхрангов. Такая рекомендация находится в согласии с общенаучной концепцией устойчивости [2], рекомендующей применять различные методы для обработки одних и тех же данных с целью выделить выводы, получаемые одновременно при всех методах. Такие выводы, видимо, соответствуют реальной действительности, в то время как заключения, меняющиеся от метода к методу, зависят от субъективизма исследователя, выбирающего метод обработки исходных экспертных оценок.

Пример сравнения восьми проектов. Рассмотрим конкретный пример применения только что сформулированного подхода.

 По заданию руководства фирмы анализировались восемь проектов, предлагаемых для включения в план стратегического развития фирмы. Они обозначены следующим образом: Д, Л, М-К, Б, Г-Б, Сол, Стеф, К (по фамилиям менеджеров, предложивших их для рассмотрения). Все проекты были направлены 12 экспертам, включенным в экспертную комиссию, организованную по решению Правления фирмы. В приведенной ниже табл.1 приведены ранги восьми проектов, присвоенные им каждым из 12 экспертов в соответствии с представлением экспертов о целесообразности включения проекта в стратегический план фирмы. При этом эксперт присваивает ранг 1 самому лучшему проекту, который обязательно надо реализовать. Ранг 2 получает от эксперта второй по привлекательности проект, ... , наконец, ранг 8 - наиболее сомнительный проект, который реализовывать стоит лишь в последнюю очередь.

Таблица 1.  Ранги 8 проектов по степени привлекательности для включения
в план стратегического развития фирмы

№ эксперта

Д

Л

М-К

Б

Г-Б

Сол

Стеф

К

1

5

3

1

2

8

4

6

7

2

5

4

3

1

8

2

6

7

3

1

7

5

4

8

2

3

6

4

6

4

2,5

2,5

8

1

7

5

5

8

2

4

6

3

5

1

7

6

5

6

4

3

2

1

7

8

7

6

1

2

3

5

4

8

7

8

5

1

3

2

7

4

6

8

9

6

1

3

2

5

4

7

8

10

5

3

2

1

8

4

6

7

11

7

1

3

2

6

4

5

8

12

1

6

5

3

8

4

2

7

 Примечание. Эксперт № 4 считает, что проекты М-К и Б равноценны, но уступают лишь одному проекту - проекту Сол. Поэтому проекты М-К и Б должны были бы стоять на втором и третьем местах и получить баллы 2 и 3. Поскольку они равноценны, то получают средний балл (2+3)/ 2 = 5/ 2 = 2,5.

 

Анализируя результаты работы экспертов (т.е. упомянутую таблицу), члены аналитической подразделения Рабочей группы, анализировавшие ответы экспертов по заданию Правления фирмы, были вынуждены констатировать, что полного согласия между экспертами нет, а потому данные, приведенные в таблице, следует подвергнуть более тщательному математическому анализу.

Метод средних арифметических рангов. Сначала для получения группового мнения экспертов был применен метод средних арифметических рангов. Для этого прежде всего была подсчитана сумма рангов, присвоенных проектам (см. табл. 1). Затем эта сумма была разделена на число экспертов, в результате рассчитан средний арифметический ранг (именно эта операция дала название методу). По средним рангам строится итоговая ранжировка (в другой терминологии - упорядочение), исходя из принципа - чем меньше средний ранг, чем лучше проект. Наименьший средний ранг, равный 2,625, у проекта Б, - следовательно, в итоговой ранжировке он получает ранг 1. Следующая по величине сумма, равная 3,125, у проекта М-К, - и он получает итоговый ранг 2. Проекты Л и Сол имеют одинаковые суммы (равные 3,25), значит, с точки зрения экспертов они равноценны (при рассматриваемом способе сведения вместе мнений экспертов), а потому они должны бы стоять на 3 и 4 местах и получают средний балл (3+4) /2 = 3,5. Дальнейшие результаты приведены в табл. 2 ниже.

 Итак, ранжировка по суммам рангов (или, что то же самое, по средним арифметическим рангам) имеет вид:

Б < М-К < {Л, Сол} < Д < Стеф < Г-Б < К . (1)

Здесь запись типа ";А<Б"; означает, что проект А предшествует проекту Б (т.е. проект А лучше проекта Б). Поскольку проекты Л и Сол получили одинаковую сумму баллов, то по рассматриваемому методу они эквивалентны, а потому объединены в группу (в фигурных скобках). В терминологии математической статистики ранжировка (1) имеет одну связь.

Метод медиан рангов. Значит, наука сказала свое слово, итог расчетов - ранжировка (1), и на ее основе предстоит принимать решение? Так был поставлен вопрос при обсуждении полученных результатов на заседании Правления фирмы. Но тут наиболее знакомый с современной эконометрикой член Правления вспомнил то, о чем шла речь выше. Он вспомнил, что ответы экспертов измерены в порядковой шкале, а потому для них неправомерно проводить усреднение методом средних арифметических. Надо использовать метод медиан.

 Что это значит? Надо взять ответы экспертов, соответствующие одному из проектов, например, проекту Д. Это ранги 5, 5, 1, 6, 8, 5, 6, 5, 6, 5, 7, 1. Затем их надо расположить в порядке неубывания (проще было бы сказать – «в порядке возрастания», но поскольку некоторые ответы совпадают, то приходится использовать непривычный термин «неубывание»). Получим последовательность: 1, 1, 5, 5, 5, 5, 5, 6, 6, 6, 7, 8. На центральных местах - шестом и седьмом - стоят 5 и 5. Следовательно, медиана равна 5.

Таблица 2.   Результаты расчетов по методу средних арифметических
 и методу медиан для данных, приведенных в таблице 1.

 

Д

Л

М-К

Б

Г-Б

Сол

Стеф

К

Сумма рангов

60

39

37,5

31.5

76

39

64

85

Среднее арифметическое рангов

5

3,25

3,125

2,625

6,333

3,25

5,333

7,083

Итоговый ранг по среднему арифметическому

5

3,5

2

1

7

3,5

6

8

Медианы рангов

5

3

3

2,25

7,5

4

6

7

Итоговый ранг по медианам

5

2,5

2,5

1

8

4

6

7

 Медианы совокупностей из 12 рангов, соответствующих определенным проектам, приведены в предпоследней строке табл.2. (При этом медианы вычислены по обычным правилам статистики - как среднее арифметическое центральных членов вариационного ряда.) Итоговое упорядочение комиссии экспертов по методу медиан приведено в последней строке таблицы. Ранжировка (т.е. упорядочение - итоговое мнение комиссии экспертов) по медианам имеет вид:



Скачать документ

Похожие документы:

  1. Теория принятия решений учебное пособие - м издательство " март" 2004

    Учебное пособие
    А.И. Орлов ТеорияпринятиярешенийУчебноепособие. - М.: Издательство "Март", 2004. Предыдущая Оглавление Следующая В учебномпособии дана структура современной теориипринятиярешений. Исходя из принципа: "Принятиерешений - работа ...
  2. " высшая школа экономики" (3)

    Программа
    ... доп. – М:.ИНФРА-М, 2000. Орлов А.И. Теорияпринятиярешений / Учебноепособие. М.: "Март", 2004. Источник в Интернете: Зиненко И. Империя знаний ... и терминов. Издательство МГУ, 2004 г. Интернет-СМИ: теория, история, практика. Учебноепособие. УМО. ...
  3. Рабочая Учебная программа ДИСЦИПЛИНЫ «Управление финансовыми рисками» для студентов НАПРАВЛЕНИЯ подготовки _ 080100 62 _ " Экономика " профиль подготовки «Финансы и кредит»

    Рабочая учебная программа
    ... основных теорий риска ... финансовой отчетности : учебноепособие. – 3-е изд. – М. : Издательство «Дело и Сервис» ... школа, 2004. Корнилова, Т.В. Психология риска и принятиярешений: Учеб­ноепособие для вузов ... зач. неде-ля февраль март апрель май 1 2 3 ...
  4. Теория и механизмы современного государственного управления для направления 081100 68 " государственное и муниципальное управление " подготовки магистра

    Программа дисциплины
    ... Издательство Московского университета, 1997. Гл.3-5. Якобсон Л.И. Государственный сектор экономики: экономическая теория ... Федерации от 9 марта2004 г. № 314. ... : Дегтярев А.А. Принятие политических решений: Учебноепособие. – М.: КДУ, 2004. Глава 5. ...
  5. Учебно-методическое пособие по дисциплине «Страхование» для НАПРАВЛЕНИЯ (СПЕЦИАЛЬНОСТИ) _ 080100 62 _ " Экономика "

    Учебно-методическое пособие
    ... принятие ... решение ... МарТ, 2009. Дюжиков, А.В. Страхование. – М. : Инфра, 2010. Ермасова, Н.Б. Страхование: Учебноепособие ... . Теория и практика: учебноепособие. ... Пособие. – М. : Анкил, 2005. Крутик, А.Б., Никитина, Т.В. Страхование. – СПб. : Издательство ...

Другие похожие документы..