В. Леонов

      Логистическая регрессия. Введение.
1. Логистическая регрессия. Основные понятия и возможности метода.
2. Логистическая регрессия. Анализ массивов большой размерности.
3. Логистическая регрессия. Примеры анализа реальных данных.
4. Логистическая регрессия и ROC-анализ.
5. Особенности логистической регрессии в акушерстве.
6. Особенности логистической регрессии в психиатрии, психологии и социологии.
7. Пример использования логистической регрессии для расчёта прогноза исхода оперативного лечения.
8. Логистическая регрессия - "вершина пирамиды". А в "фундаменте" - что?
9. Как повысить качество уравнений логистической регрессии.

В данной серии статей, на уровне доступном для начинающих, рассмотрены цели и направления метода логистической регрессии. В частности, приводятся пояснения, какие надёжные результаты этого метода могут быть использованы для поставленных целей медицинских и биологических исследований. На примерах реальных медицинских массивов данных, поясняется специфика использования данного метода. Объяснено, что метод имеет много алгоритмов оценки уравнений логистической регрессии, что позволяет назходить для использования во врачебной практике самые удобные и надёжные методы лечения. Рассмотрено использование метода к массивам данных, содержащим несколько сотен признаков разной природы. Показано, что корректное создание таких массивов, и их анализ, возможны лишь при участии биостатистиков на самых первых этапах таких исследований. Рассмотрена связь логистической регрессии и ROC-анализа. Приведены многочисленные уравнения логистической регрессии и ROC-кривые, полученные при анализе реальных данных. Объяснена целесообразность использования вместе с методом логистической регрессии набора методов анализа парных взаимосвязей между различными признаками, а также использование более сложных методов многомерной статистики.

Пример использования логистической регрессии
для расчёта прогноза исхода оперативного лечения.

Леонов В.П., Шнейдер В.Э. ¹

Подобно тому как все искусства
тяготеют к музыке,
все науки стремятся к математике.
__________________________
Д. Сантаяна

N.B.! Перед чтением данной статьи, настоятельно рекомендуем прочитать статью "Логистическая регрессия. Введение"

Целью исследования было выявления факторов риска для определения прогноза развития неблагоприятных исходов хирургического лечения травматических повреждений поджелудочной железы. Какие из этих факторов позволяют определить прогноз развития послеоперационных осложнений и летальности после операций по поводу травмы поджелудочной железы, остаётся до конца не выясненным.

В работе проводится анализ 35 количественных и 115 качественных признаков. База данных основана на 202 наблюдениях. Для каждого случая травматического повреждения поджелудочной железы учитывались следующие наборы признаков, из которой формировалась база данных (БД): 1) демографические данные; 2) вид, механизм и давность повреждений; 3) степень тяжести состояния пациента; 4) степень тяжести повреждений; 5) количество повреждённых органов; 6) объём кровопотери; 7) способ хирургического лечения; 8) осложнения; 9) летальность; 10) данные лабораторного исследования при поступлении и в динамике послеоперационного периода (ферменты поджелудочной железы, глюкоза, лейкоцитоз, ЛИИ и др.), и многие другие.  Оценку тяжести состояния больных и степени тяжести повреждений проводили по шкале комы Глазго (GCS), шкалам  APACHE II и  SAPS II, физиологическому показателю тяжести травмы (RTS), анатомическому показателю тяжести травмы NISS, шкале повреждений AIS, шкале комплексной оценки тяжести состояния «ВПХ–СП» и шкале оценки тяжести повреждений «ВПХ–П». Почему подобные объёмы баз данных, и очень многих результатов по парным и иным сложным методам статистического анализа, использовали исследователи из Франции, Германии, Испании и Италии.

Для прогнозирования на основе анализа множества факторов, обладающих сетью взаимных влияний друг на друга, необходимо использовать методы многомерной статистики. Для достижения поставленной цели исследования была использована логистическая регрессия.

Первым этапом необходимо было выявить влияние каждого фактора на развитие послеоперационных осложнений и их парные взаимосвязи друг с другом. Для этого были использованы следующие 3 вида анализа – корреляционный, анализ таблиц сопряжённости и сравнение центральных мер нескольких групп. Учитывая наличие ранговых переменных, для оценки интенсивности корреляционных связей использовали коэффициент корреляции Спирмэна. Раздельное выполнение корреляционного анализа в основных группах сравнения позволяло установить, каким образом принадлежность пациентов к той или иной подгруппе сравнения изменяет структуру корреляционных матриц. В частности, для каких пар признаков величина корреляционных коэффициентов увеличивалась, или уменьшалась. А также установить, какие пары признаков приобретали или теряли статистически значимую корреляционную взаимосвязь.

Для сравнения групповых центральных мер предварительно проводилась проверка нормальности распределения количественных признаков с помощью статистических критериев Шапиро-Уилка, Колмогорова-Смирнова, Крамера фон Мизеса и Андерсона-Дарлинга. Поскольку большая доля гипотез о нормальности распределения отвергалась, то помимо использования параметрических методов сравнения, использовались также следующие непараметрические критерии: Ван дер Вардена, Краскела-Уоллеса, и медианный критерий. В том случае, когда анализ таблиц сопряжённости обнаруживал наличие статистически значимой взаимосвязи между парой качественных признаков, проводился анализ структуры этой связи в анализируемой таблице. Благодаря такому анализу устанавливались те сочетания градаций этих признаков, которые и были ответственны за данную взаимосвязь. Кроме того устанавливались в отдельных клетках таблицах направления этих связей. Такая детализация результатов анализа позволяла в дальнейшем рассмотреть различные варианты изменения структуры градаций анализируемых признаков.

Все 3 перечисленных выше вида анализа парных взаимосвязей были необходимы, в том числе, для лучшего понимания влияния отдельных предикторов, входящих в уравнения логистической регрессии, на зависимую группирующую переменную.  

После этого производилась оценка набора уравнений логистической регрессии. Учитывая тот факт, что в реальной исследовательской практике у части анализируемых признаков всегда имеется небольшая доля пропущенных (неизмеренных) значений, возникает необходимость выбора различных подмножеств потенциальных предикторов. Поскольку при одновременном участии в списке потенциальных предикторов всех признаков БД, существенно уменьшается число анализируемых наблюдений. Это объясняется тем, что в анализе могут быть использованы только те наблюдения, у которых есть измерения по всему списку потенциальных предикторов. Такие альтернативные варианты делают неизбежным получение в результате анализа не единственного, уникального уравнения, а некоторого набора уравнений.

  Это подмножество полученных уравнений объясняется не только наличием отличающихся наборов потенциальных предикторов, из которых производится отбор полезных, информативных признаков, но также и использованием различных алгоритмов такого отбора. В итоге общее количество полученных уравнений логистической регрессии может от 3-5 возрастать и до нескольких десятков, и даже более. Поэтому по окончании анализа и получения такого подмножества уравнений логистической регрессии возникает последующая задача выбора наиболее ценных и полезных уравнений.
Рассмотрим также ещё одну особенность формирования наборов потенциальных предикторов для отбора из них предикторов в уравнения логистической регрессии.

Очень многие массивы данных, собираемые в медицинских исследованиях, содержат группу одинаковых признаков, фиксируемых в различные периоды наблюдения за пациентами. Например, при поступлении пациента первоначально фиксируются показатели анамнеза, а также начальные результаты различных видов анализа. Затем уже в динамике фиксируются наборы одинаковых признаков. Наконец в самой последний период наблюдения фиксируются не только результаты анализа, но и конечный результат лечения в целом. Это могут быть бинарные исходы (нелетальный исход, или летальный исход), либо исходы с 3 и более градациями. Например, несколько видов послеоперационных осложнений, и т.п.

При наличии таких динамических БД, принимая в качестве зависимой переменной результат лечения, возникает 2 подхода, как к построению самой БД, так и оценке уравнений логистической регрессии. В этом случае целесообразно использовать 2 способа формирования БД. В первом случае матрица данных (например, в пакете EXCEL) формируется «слева – направо». Т.е. вначале вводятся столбцы с показателями анамнеза, а далее группы признаков (столбцов) фиксируемые в разные периоды лечения. Ниже представлена схема такой БД.

Здесь:  Number – номер наблюдения (пациента) в БД, Аi – признаки анамнеза,  Вi – признаки фиксируемые в первом периоде,  Сi – признаки фиксируемые во втором периоде, Di – признаки фиксируемые в последнем периоде.  
В этом случае для оценки прогноза исхода лечения в каждом текущем периоде наблюдения целесообразно использовать следующие комбинации подгрупп признаков:

При этом комбинация А+В будет использоваться для оценки уравнения прогноза исхода в 1-м периоде. Комбинация А+В+С для прогноза исхода во  2-м периоде, и т.д.

Однако при оценке уравнений связи между показателем исхода и другими показателями преследуется двоякая цель. С одной стороны, это попытка получить  выражения для прогноза исхода. И анализируя в этих уравнениях структуру предикторов (знаки коэффициентов предикторов, а также ранги стандартизованных коэффициентов уравнения) выделять те признаки, которые поддаются реальному изменению в нужную сторону (увеличение или уменьшение). И далее, установив ожидаемую комбинацию значений всех предикторов уравнения, в т.ч. после воздействия на управляемые признаки, оценить вероятности исходов лечения.

Иными словами, такие уравнения в принципе должны помочь в выборе оптимальной тактики лечения, для достижения максимальных вероятностей положительных исходов лечения.

Вторая же цель поиска, не менее ценная, чем первая, заключается в оценке уравнений связи между показателем, характеризующим период наблюдения, и набором ВСЕХ фиксируемых признаков. То есть оценивается модель описания динамики лечения. При этом для оценки подобной модели вполне разумно использовать иную структуру БД. Схема БД со структурой «сверху – вниз» приведена ниже.

В такой БД конкретный столбец содержит один и тот же признак, только фиксируемый в разные периоды наблюдения. А признак Period содержит номера периодов наблюдения. В этом случае те признаки, которые значимо не изменяют структуру связей в разные периоды наблюдения, не войдут в уравнение логистической регрессии, отражающее динамику этой структуры. Тогда как показатели, имеющие значимые вклады в структуру связей в разные периоды наблюдения, войдут в конечное уравнение. И в этом случае будет ясно, какие подгруппы признаков следует изучать в динамике. Другой, не менее важный результат при изучении результатов моделирования будет заключаться в исследовании результатов переклассификации наблюдений за все периоды с помощью полученных уравнений логит-регрессии. Напомним, что одним из показателей качества получаемых уравнений логистической регрессии является результат переклассификации анализируемых наблюдений. Чем ближе процент правильной переклассификации (показатель конкордации) к 100%, тем выше качество полученного уравнения.

Например, анализируется взаимосвязь признака PERIOD  имеющего 4 градации (4 временных периода) и некоторого набора признаков. На основе полученного уравнения производится переклассификация проанализированных наблюдений. И в результате получается следующая таблица.

Внутри таблицы приведены проценты предсказанных частот наблюдений по каждому из 4-х периодов. Видно, что из наблюдений 1-го периода 96% переклассифицированы в 1-й период, и лишь 4% отклассифицированы во второй период. В 4-м периоде все 100% были переклассифицированы в этот же 4-й период. Тогда как классификации наблюдений из 2-го и 3-го периода дают «размытый» результат. Правильно выдаётся классификация примерно для половины случаев. А вторая половина наблюдений классифицируется в соседний 2-й или 3-й периоды. Из чего можно сделать вывод о том, что видимо набор признаков, содержащийся в анализируемой БД, не позволяет различать 2-й и 3-й периоды наблюдения.

Также вероятно, что в течение 2-го и 3-го периода не происходит значимых изменений структуры связей внутри анализируемого массива признаков. Хотя такой результат может быть связан и количеством наблюдений за 2-й и 3-й периоды. Ведь по самым различным причинам эти количества могут существенно отличаться от количества наблюдений за остальные периоды. Более точный ответ на этот вопрос требует для этого проведения дополнительных методов анализа. В том числе, например, с использованием разных алгоритмов оценки уравнений логит-регрессии, а также с использованием бутстреп-метода. Например, недавно мы проводили анализ с помощью логистической регрессии нескольких тысяч наблюдений, собранных в одном из федеральных кардиологических центров. И использование бутстреп-метода позволило существенно улучшить результат оценки уравнений логистической регрессии для бинарной зависимой переменной «Исход лечения» (нелетальный и летальный исход). Однако, одним из вариантов подобного результата может быть объединение 2-го и 3-го периодов.

Как уже говорилось выше, при анализе реальных данных приходится оценивать достаточно большое количество уравнений регрессии с различными наборами переменных. В этом случае задача исследователя заключается в выборе наиболее подходящих уравнений и их клиническое осмысление. Для этого проводится проверка каждого уравнения путем изменений значений предикторов, которые в принципе могут быть изменены с помощью различного рода воздействий. Тогда как другая часть факторов являются не управляемыми, например исходные данные пациента (пол, возраст, тяжесть травмы и т.д.), на них мы не можем повлиять. Однако в зависимости от комбинации таких неизменяемых признаков может оказаться, что влияние изменяемых показателей на вероятность того или иного исхода, может быть различна.

     Оптимальный результат далеко не всегда находится на первом этапе проведения многомерных исследований. Конечно, для проведения столь сложного метода анализа требуется помощь опытного специалиста (биостатистика), но оценить полученные при этом результаты можно силами самого врача.

Например, для выяснения факторов риска развития послеоперационных осложнений было получено около 100 уравнений. Ниже приведены три из полученных уравнений.

Первое уравнение:

Процент конкордации уравнения равен 97,5%. В это уравнение вошли 4 предиктора. Два из них управляемые – это продолжительность операции и тактические ошибки. При этом наибольшие значения стандартизованные коэффициенты имеют у признаков VAR41A и VAR74A. Однако недостатком этого уравнения является наличие у признаков VAR41A и VAR44A пропущенных значений в большом количестве наблюдений. Кроме того, в этом уравнении отсутствуют признаки, определяющие исходное состояние пациента, но его можно использовать для оценки прогноза в динамике, например в 1 сутки послеоперационного периода.

Набор признаков включает диагностические критерии, полученные в 1 сутки послеоперационного периода и они могут как увеличивать риск развития осложнений, если достигают пороговых значений, так и снижать его, если не достигнут опасного уровня. Поэтому у пациентов с высоким риском развития послеоперационных осложнений, прогнозируемым по исходным данным, можно в динамике увидеть изменение прогноза развития неблагоприятного исхода операции в ту или иную сторону.

Второе уравнение имеет следующий вид:

В это уравнение вошли уже 6 предикторов. Из предыдущего уравнение повторяется признак VAR66. Управляемыми в этом уравнении кроме признака VAR66, являются также VAR65А, VAR68А, VAR77А и VAR81А. Наибольшее значение стандартизованного коэффициента у признака VAR77A. Это уравнение имеет большее значение для профилактики осложнений, так как имеет большее количество признаков, позволяющих изменить неблагоприятный прогноз.
Наконец третье уравнение:

В данное уравнение в качестве предикторов вошли уже 7 признаков, и свободный член отсутствует. Причем два признака повторяются в сравнении с предыдущим уравнением (VAR81А, VAR77А). Кроме них в уравнении имеется ещё один управляемый предиктор VAR76А. Наибольшие значения стандартизованных коэффициентов имеются у признаков VAR52AA и VAR77A. Как мы видим, признак VAR77А в обоих уравнениях имеет большое значение стандартизованного коэффициента.

Совместив три уравнения в одну таблицу (файл logist_1_2_3.xls ) можно сравнить прогноз по каждому наблюдению (пациенту). Тем самым уменьшив количество ложноположительных и ложноотрицательных результатов. Кроме того, это позволяет лучше понять, как влияет изменение отдельных предикторов на вероятности каждого исхода.

Клинический пример №18(181) без осложнений
Пострадавший Н, 26 лет. Проникающее ранение брюшной полости. Ранение печени, желудка и головки поджелудочной железы. Выполнена лапаротомия, ушивание ран печени и желудка и дренирование сальниковой сумки. Послеоперационный период протекал без особенностей. Специфических послеоперационных осложнений (СПО) не возникло.
Во всех трех уравнениях для этого наблюдения управляемые предикторы имеют значения, которые не являются факторами риска СПО. Тем самым прогноз по всем уравнениям на 99,9%, 70,7% и на 97,9% был в пользу не осложненного течения.
Изменяя значения предикторов, на которые можно повлиять, удается выявить наиболее значимые для клиники факторы риска осложнений (и пороговое значение для количественных признаков).

Так в уравнении №1 – повлиять можно на продолжительность операции (VAR66) и тактические ошибки во время операции (VAR74A).  При увеличении продолжительности операции до 380 минут  прогноз меняется и при такой продолжительности операции возможно развитие осложнений с вероятностью 60,4% (Р1=0,395, 1-Р1=0,604).   Другими словами, если сложность клинического случая или недостаточный опыт хирурга приведут к тому, что продолжительность вмешательства затянется более 6 часов то, скорее всего это послужит причиной развития осложнений. Такая же ситуация возникает если во время операции допускается тактическая ошибка (значение переменной VAR74A = 2) Р1=0,17, 1-Р1=0,83.

В уравнении №3 такими факторами являются кроме продолжительности операции (VAR66), способ дренирования СС (VAR65А), наличие задержки операции (VAR68А), выполнение герметичного ушивание раны ПЖ (VAR77А) и медикаментозная профилактика травматического панкреатита (VAR81А). Если увеличить время операции, использовать неадекватное дренирование, ушивание раны или не проводить профилактику травматического панкреатита, каждый из этих факторов приведет к изменению прогноза, т.е. к развитию осложнения. Такая же картина получается и при анализе уравнения 3.

Клинический пример №187(180) с осложнениями
Пострадавшая Б, 58 лет. Торакоабдоминальное ранение слева. Ранение левого купола диафрагмы, сквозное ранение селезенки и хвоста поджелудочной железы. Выполнена лапаротомия, ушивание ран диафрагмы, спленэктомия, ушивание раны поджелудочной железы. С гемостатической целью к хвосту поджелудочной железы подведён тампон. На 5 сутки после операции диагностирован инфицированный некроз поджелудочной железы в области повреждения с формированием поддиафрагмального абсцесса слева. Выполнено вскрытие и дренирование абсцесса.

В отличие от предыдущего примера в этом наблюдении во всех уравнениях большинство предикторов имеют значения, характерные для возникновения осложнений (т.е. являются факторами риска). В этом примере, убирая влияние одного из фактора риска, можно узнать его вес в неблагоприятном прогнозе. У пациентки имеются весомые неизменяемые факторы риска СПО, по уравнениям 2 и 3. В связи с этим изменение даже всех управляемых предикторов не приводит к благоприятному прогнозу. Так если изменить качественные признаки (VAR65А, VAR68А, VAR77Аи VAR81А) на противоположные значения, а продолжительность операции (VAR66) уменьшить до 60 минут (что не реально для такого объёма повреждений), то только в этом случае прогноз по 5 уравнению изменится. А в 3-м уравнении изменение даже всех управляемых ФР не меняет прогноз.

Изменяя комбинации значений предикторов в файле logist_1_2_3.xls можно оценить, как при этом изменяются вероятности обоих исходов при использовании всех трёх уравнений. При этом несложно заметить, что чем больше размах средних величин ВЕТА (сумма модулей положительного и отрицательного среднего ВЕТА), тем ближе средние вероятности отнесения к двум исходам к нулю и к единице, и наоборот. Т.е. чем ближе будут модули двух средних ВЕТА к нулю, тем ближе обе вероятности будут к 50%.

Для лучшего осмысления технологии сравнения нескольких уравнений логит-регрессии между собой предлагаем читателям, скачав файл logist_1_2_3.xls, сделать различные модификации величин предикторов, наблюдая при этом мгновенные изменения величин. Отметим, что приведённые в этом файле средние значения параметра ВЕТА и вероятностей, вычислены для исходной комбинации значений предикторов.  Т.е. эти значения не будут изменяться при изменении значений предикторов.

Далее: 8. Логистическая регрессия - "вершина пирамиды". А в "фундаменте" - что?