В. Леонов

   Логистическая регрессия. Введение.
1. Логистическая регрессия. Основные понятия и возможности метода.
2. Логистическая регрессия. Анализ массивов большой размерности.
3. Логистическая регрессия. Примеры анализа реальных данных.
4. Логистическая регрессия и ROC-анализ.
5. Особенности логистической регрессии в акушерстве.
6. Особенности логистической регрессии в психиатрии, психологии и социологии.
7. Пример использования логистической регрессии для расчёта прогноза исхода оперативного лечения.
8. Логистическая регрессия - "вершина пирамиды". А в "фундаменте" - что?
9. Как повысить качество уравнений логистической регрессии.

  В данной серии статей, на уровне доступном для начинающих, рассмотрены цели и направления метода логистической регрессии. В частности, приводятся пояснения, какие надёжные результаты этого метода могут быть использованы для поставленных целей медицинских и биологических исследований. На примерах реальных медицинских массивов данных, поясняется специфика использования данного метода. Объяснено, что метод имеет много алгоритмов оценки уравнений логистической регрессии, что позволяет назходить для использования во врачебной практике самые удобные и надёжные методы лечения. Рассмотрено использование метода к массивам данных, содержащим несколько сотен признаков разной природы. Показано, что корректное создание таких массивов, и их анализ, возможны лишь при участии биостатистиков на самых первых этапах таких исследований. Рассмотрена связь логистической регрессии и ROC-анализа. Приведены многочисленные уравнения логистической регрессии и ROC-кривые, полученные при анализе реальных данных. Объяснена целесообразность использования вместе с методом логистической регрессии набора методов анализа парных взаимосвязей между различными признаками, а также использование более сложных методов многомерной статистики.

Особенности логистической регрессия
в психиатрии, психологии и социологии.

Невежеству удаётся внушить
доверие чаще, чем знанию.
______________________
Ч. Дарвин

Нужно измерять всё измеримое,
и делать измеримым то, что
пока ещё не поддаётся измерению.
___________________________
Галилео Галилей

N.B.! Перед чтением данной статьи, настоятельно рекомендуем прочитать статью "Логистическая регрессия. Введение"

Сложность использования метода логистической регрессии, как и многих других статистических методов, в психиатрии и психологии во многом определяется спецификой анализируемых данных. В медицине и биологии в большинстве случаев используются количественные и качественные признаки, которые по своему содержанию таковыми и являются. Многие из количественных признаков имеют эталоны для используемых шкал. Например, есть эталоны массы, длины и т.д. Значения других количественных признаков получаются путём вычислений, с использованием величин, измеряемых в шкалах обладающих эталонами. Однако во всех случаях для таких величин, измеряемых в абсолютных шкалах, в шкалах отношений или в интервальных шкалах, допустимы не только отношения "Равно - Не равно" и "Больше - Меньше", но также и операции сложения, вычитания, умножения и деления.

 Соответственно для таких величин допустимо вычисление таких описательных статистик, как среднее арифметическое, ошибка среднего, дисперсия, стандартное отклонение и т.п. Наличие МЕРЫ, ЭТАЛОНА для таких ИЗМЕРЯЕМЫХ величин весьма принципиально. Поскольку в этом случае выполняется условие ЭКВИДИСТАНТНОСТИ. Т.е. условие равноудалённости между соседними значениями этих величин. Например, разница между весом в 75 кг и весом в 76 кг составляет 1 кг. И точно такая же разница между весами 10 и 11 кг, 110 и 111 кг и т.д. При этом несущественно, измеряются ли эти веса у живых объектов, или же у металлических деталей, разными моделями весов имеющих однаковую точность и т.д. Разность будет одна и та же: 1 кг. Эквидистантность поддерживается также и периодической поверкой точности измерительных приборов и их калибровкой. Все эти процедуры обеспечиваются наличием МЕРЫ, ЭТАЛОНА.

Основоположником применения статистики в психологии, создателем психометрии, считается основатель биометрики Френсис Гальтон. В 1890 г. один из основателей психологической науки и психометрических шкал, Кеттел Джеймс Маккин написал книгу "Mental Test and Measurements". В послесловии к этой книге основоположник науки БИОМЕТРИИ Френсис Гальтон написал следующее: "Психология не может стать прочной и точной, как физические науки, если не будет основываться на эксперименте и измерении".

Дж. М. Кеттел стал первым профессором психологии, первым доктором наук по психологии, защитившим диссертацию "Психометрическое исследование". Именно Дж. М. Кеттел сделал большой вклад в развитие психологического тестирования, экспериментальной психологии, приблизив тем самым психологию к таким естественным наукам, как математика, физика, химия и т.д. Далее работы по психометрии были продолжены Чарльзом Спирменом, и основателем и первым президентом Психометрического общества Луисом Тёрнстоуном. Большой вклад в развитие психометрии внесли также такие учёные, как Карл Пирсон, Генри Кайзер, Джордж Раш, Джонсон О' Коннор, Фредерик Лорд, Ледьярд Тюкер, Артур Дженсен.

    Эти же самые усилия в социологии вызвали к жизни такую науку, как социометрия. "Определение измерения в социальных науках имеет долгую историю. В настоящее время широкое определение, предложенное Стэнли Смит Стивенсом (1946), гласит, что измерение «приписывание чисел объектам или событиям по некоторому правилу». Это определение было представлено в работе, в которой Стивенс предложил четыре уровня измерения. Хотя это определение имеет широкое распространение, оно отличается от более классического определения измерения, принятого в физике, которое гласит, что измерение — это численная оценка и выражение одной величины по отношению к другой (Мишель, 1997)".

Что же объединяет между собой психиатрию, психологию и социологию в части специфики применения логистической регрессии? Объединяет общность свойств используемых в этих науках оценочных шкал. Большинство из этих шкал являются категориальными, ранговыми шкалами. Т.е. такими шкалами, в которых числовое представление характеристик объектов производится не на основе использования неких ИЗМЕРИТЕЛЬНЫХ ЭТАЛОНОВ, или ИЗМЕРИТЕЛЬНЫХ ПРИБОРОВ,  а путём субъективных ОЦЕНОК интенсивности этих свойств. "Измерительные процедуры для психических явлений не лучше известны, чем то, что ими измеряется. Как откровенно заметил У. Торгерсон, большинство измерений в бихевиоральных науках основаны на соглашениях и интуициях экспериментаторов".

В предыдущем разделе "Особенности логистической регрессии в акушерстве" мы упоминали шкалу Апгар, которая является типичным примером ранговой шкалы. "Шкала предполагает суммарный анализ пяти критериев, каждый из которых оценивается целочисленно в баллах от нуля до двух. Результат оценки может быть в диапазоне от 0 до 10.

Данное тестирование проводится обычно на первой—пятой минуте после рождения, и может быть повторено позднее, если результаты оказались низкими. Баллы менее 3 означают критическое состояние новорождённого, более 7 считается хорошим состоянием (норма). Шкала Апгар изначально была разработана для медперсонала с целью определить, каким детям требуется более тщательное наблюдение. Ребенок, получивший 5 баллов, нуждается в более пристальном наблюдении, чем ребенок, получивший от 7 до 10 баллов. Ребенок, получивший по шкале 5 — 6 баллов спустя минуту после рождения, но через пять минут повысивший свой показатель до 7 — 10, переходит в категорию детей, о которых можно не беспокоиться. Ребенок, начавший жизнь с пятью баллами по шкале Апгар и оставшийся при тех же 5 баллах через 5 минут после рождения, нуждается в более тщательном наблюдении" (Шкала Апгар). На этом примере наглядно видно, что разность в 1 балл между 3 и 2 баллами не идентична разности между 9 и 8 баллами.Т.е. здесь в принципе не может идти речи о наличии ЭКВИДИСТАНТНОСТИ в данной шкале. В ней допустимы лишь операции сравнения "Равно - Не равно" и "Больше - Меньше". Но не допустимы такие операции, как сложение, деление и т.д. Соответственно не допустимо в таких шкалах и использование понятия "Средний балл".

Весьма подробно и обстоятельно эта проблема рассмотрена в книге А.И. Орлова "Прикладная статистика", М.: Изд-во "Экзамен", 2004. - 656 с. "В настоящее время распространены экспертные, маркетинговые, квалиметрические, социологические и иные опросы, в которых опрашиваемых просят выставить баллы объектам, изделиям, технологическим процессам, предприятиям, проектам, заявкам на выполнение научно-исследовательских работ, идеям, проблемам, программам, политикам и т.п. Затем рассчитывают средние баллы и рассматривают их как интегральные (т.е. обобщенные, итоговые) оценки, выставленные коллективом опрошенных экспертов. Какими формулами пользоваться для вычисления средних величин? Ведь существует очень много разных видов средних величин.

   По традиции обычно применяют среднее арифметическое. Однако специалисты по теории измерений уже около 30 лет знают, что такой способ некорректен, поскольку баллы обычно измерены в порядковой шкале (см. главу 2.1.3). Обоснованным является использование медиан в качестве средних баллов". Если же познакомиться с различными книгами, посвящёнными использованию методов статистики в психологии, психиатрии и социологии, то во многих из них мы найдём полнейшее игнорирование этого ограничение. Что говорит о том, что авторы подобных книг либо не владеют основными понятиями теории измерений и теории шкал, либо просто безответственно относятся к создаваемому ими продукту. Соответственноо вслед за ними психиатры, психологи и социологи в своих исследованиях широко используют такие величины, как средние баллы, стандартные отклонения, ошибки средних и т.д. Для того чтобы убедиться в этом, достаточно просмотреть диссертации или несколько номеров ведущих отечественных журналов по психиатрии, психологии и социологии, в которых найдём массу таблиц с заголовками вида M ± Sd, и далее со значениями средних баллов и их стандартных отклонений вида 5,79 ± 1,59 и т.д.

Отсутствие эквидистантности разнообразных шкал, используемых в психиатрии, психологии и социологии, априорно обусловлено самой структурой этих шкал. В качестве примера рассмотрим шкалу депрессивности Бека (Beck Depression Inventory — BDI), шкалу Гамильтона для оценки депрессии (HDRS), шкалу самооценки Спилбергера, личностную шкалу проявлений тревоги Тэйлора. Все эти шкалы, и другие подобные шкалы, в своих опросниках содержат, как правило, несколько десятков утверждений, на которые пациент должен дать те или иные ответы. При этом отметим, что количество альтернативных ответов на эти утверждения могут быть разные. Например, в опросникеТэйлора, состоящем из 50 утверждений, предлагается лишь 2 альтернативных ответа: "Да" или "Нет". Конкретные положительные или отрицательные ответы оцениваются в 1 балл. 

    Однако все эти эти ответы по своему содержанию могут иметь различную ценность, важность для диагностики того или иного состояния. Например, одинаковый ли вклад в диагностику состояния пациента вносит ответ "Нет" на утверждение "У меня редко бывают запоры", или ответ "Нет" на утверждение  "У меня редко бывают головные боли"? Если же обратиться к шкале самооценки Спилбергера, то в этом случае на 40 утверждений пациенту необходимо выбрать 1 из 4 вариантов ответа. Аналогично в шкале депрессии Бека на 21 утверждение пациенту наобходимо выбрать 1 ответ из 4-6 альтернативных вариантов. При этом немаловажную роль в объективности реакции пациента является фактор комплаентности. Немалую роль при этом играет и тот факт, что разные пациенты могут по разному воспринимать смысл и содержание самого вопроса.

Известная типология шкал, предложенная американским психологом-психофизиком Стэнли Стивенсом - шкала отношений, интервальная, порядковая и номинальная шкалы, основана на допустимых к применению в этих шкалах операциях и преобразованиях. Не случайно теория шкал, подробно описанная в книге И. Пфанцагля "Теория измерений" (М.: Изд-во "Мир", 1976 г.248 с.) практически вся построена на анализе допустимых операций и адекватных отношений для всех описываемых шкал. А глава 6 в этой книге даже называется "Теория шкал интервалов, основанных на операциях".  Мы настоятельно рекомендуем тем нашим читателям, которые занимаются исследованиями в области психиатрии и психологии внимательно прочитать и изучить эту книгу. При этом обращаем внимание читателей на главу 2 "Адекватность", и, в частности, на разделы 2.4. "Адекватная статистика" и 2.5. "Примеры адекватных и неадекватных статистик". Ниже приводим фрагмент текста данного раздела со стр. 43:

    Т.е. в порядковых шкалах нельзя выполнять операции сложения, вычитания, умножения и деления. Эти же проблемы подробно обсуждаются в книгах "Психологические измерения" (пер. с англ. под редакцией Л.Д. Мешалкина. Изд-во "Мир", 1967. - 196 с.), " Теоретическая метрология. Часть 1. Общая теория измерений". (автор Шишкин И. Ф. СПб.: Питер, 2010. - 192 с.),"Измерение в социологии" (автор Толстова Ю.Н., М.: Инфра-М, 1998.), "Методы измерения в социологии" (авторы Осипов Г. В., Андреев Э. П. М. : Наука, 1977.), "Математика, измерение, психофизика" (автор Стивенс С.С. // Экспериментальная психология, т.1, М.: ИЛ, 1960).

Сложность использования логистической регрессии применительно к массивам данных, содержащих ответы пациентов на подобные вопросы, заключается также и в ином. Поскольку одной из целей психиатрических исследований, как правило, является оценка эффективности той или иной технологии лечения пациентов, то возникает необходимость использования этих опросников в различные периоды наблюдения. В частности, до начала лечения, и в определённые моменты по завершении лечения. Очевидно, что в этом случае в зависимости от времени опроса один и тот же пациент может не только по разному ответить на один и тот же вопрос, что вполне естественно, но также и по разному понять его. И это тоже одна из причин невозможности обеспечения условия эквидистантности, необходимого для вычисления значения среднего балла.

Уже сам факт сложности используемых шкал говорит о том, что для получения надёжных и обоснованных выводов, которые возможно получить с помощью статистического анализа собираемых массивов данных, априорно требуется использование адекватных, и столь же сложных методов статистики. Подобные сложные  и разные иные методы статистического анализа, использовали исследователи из Германии, Франции, Италии и Испании. Применительно к балльным шкалам в психиатрии, психологии и социологии, помимо метода логистической регрессии, можно указать несколько других, не менее сложных методов. Например, проведя бинаризацию всех ответов на вопросы, далее использовать методы оцифровки этих ответов, получив таким образом набор вариантов уравнений регрессии. Не менее привлекательно для анализа подобных наборов данных использование метода корреспондентского анализа.

Если же возвратиться к возможности применения метода логистической регрессии для оценки эффективности лечения пациентов, имея начальные, до проведения лечения, и повторные, после проведения лечения, наборы балльных данных, то, по нашему мнению, для этой цели целесообразно использовать следующий подход. Выше в приведённом фрагменте раздела 2.5. "Примеры адекватных и неадекватных статистик" книги И. Пфанцагля "Теория измерений" указывалась одна из адекватных статистик для такого рода данных. Покажем, как используя эту статистику, можно далее вполне корректно применить метод логистической регрессии. Приведённые ниже результаты получены с использованием данных, любезно предоставленных психиатром А.Ф. из Германии. Общий объём наблюдений составил около 1000. Ниже на графике представлены гистограммы для 4-х периодов наблюдения за пациентами. Гистограммы строились для одного из наиболее важных балльных признаков. По изменению этого признака психиатр оценивает эффективность проведённого лечения, а также устойчивость результата лечения.

    Несложно заметить, что асимметричность распределения различна для 4-х периодов наблюдения. Т.е. имеет место дрейф медианы распределения. Оценивая медианы признака PR для всех 4-х периодов, можно ввести 3 новых группирующих признака в исходный массив наблюдений. Т.е. в массив данных, сформированный ДО ЛЕЧЕНИЯ. Каждый из этих признаков имеет бинарную природу, указывая на расположение исходного значения признака PR левее или правее медианы одного из 3-х последующих периодов. Таким образом можно проследить динамику изменения вида распределения конкретного признака. Учитывая тот факт, что в реальной врачебной практике эффективность проводимого лечения оценивается не по одному тесту, а по набору из 5-10 тестов, получаем набор новых группирующих признаков порядка 15-30.

А если учесть, что при оценке уравнения логистической регрессии для каждой из таких зависимых переменных оценивается минимум 3-5 уравнений, получаем набор из 45-150 уравнений. При этом для интерпретации полученных уравнений необходимы также результаты анализа парных связей новых 15-30 группирующих признаков с результатами тестирования во всех 4-х периодах наблюдения. Принимая число используемых в исследовании признаков порядка 50, в итоге получаем, что необходимо провести анализ ещё  порядка 750-1500 парных связей. Эти оценки показывают, что глубокий и корректный анализ данных столь сложной природы, требует достаточно большой объём вычислений. Результатом же такого подхода является отбор наиболее чувствительных к лечению характеристик пациентов, а также получение технологии надёжного прогноза результата лечения. 

Ниже приводим одно из уравнений логистической регрессии, полученное с использованием описанной выше схемы. В качестве зависимой переменной была использована группирующая переменная с 2 градациями, отражающими положение результата тестирования пациента по одному из конкретных балльных признаков до начала лечения, относительно медианы этого же признака сразу после окончания лечения.

Видно, что в уравнение логистической регрессии алгоритмом было отобрано 12 предикторов. При этом показатель конкордации составил 94,3%, что свидетельствует о высокой надёжности полученного уравнения. Анализ коэффициентов уравнения позволяет проранжировать предикторы по степени их влияния на результативность лечения. Такое ранжирование позволяет выбрать приоритеты лечебных процедур для конкретных пациентов. Кроме того, используя данный тип уравнения несложно с помощью пакета EXCEL получить оценки вероятности смещения результатов балльного теста для конкретного пациента после окончания периода лечения. Ниже приведён график с ROC-кривой для данного уравнения.

Величина показателя AUC составила 0,9419

Итак, если целью исследователя использующего системы балльных шкал является получение корректной и надёжной информации об изучаемом явлении и объектах, то в этом случае следует учитывать весь комплекс сложностей, обусловленных природой этих шкал. Использование же набора шаблонных методов, применяемых к количественным данным, приведёт к неверным выводам, и будет тем самым характеризовать профессиональный уровень исследователя. Основная же опасность в этих случаях будет подстерегать тех, к кому далее будут использованы эти некорректные выводы.

Далее: 7. Пример использования логистической регрессии для расчёта прогноза исхода оперативного лечения.