Статьи

Здравоохранение стало самой сложной проверкой для искусственного интеллекта. Именно здесь ИИ сталкивается одновременно с многоуровневым регулированием, высокой ценой ошибки, сложной биологией и глубоко человеческой природой медицины. И если раньше главный вопрос формулировался как «заменит ли ИИ врачей?», то сегодня он звучит иначе: в каких задачах ИИ действительно превосходит человека, где эффективнее работает в связке с врачом, а где по-прежнему остается опасно ненадежным. Своим мнением делится William Warr - эксперт по глобальной политике в области здравоохранения, приглашенный профессор Имперского колледжа Лондона и почетный научный сотрудник Оксфордского университета. Ранее он занимал должность старшего советника премьер-министра Великобритании по вопросам здравоохранения и технологий.

Если вы хотите понять, как искусственный интеллект действительно повлияет на мир, не стоит смотреть только на программирование, юриспруденцию или финансы. Нужно смотреть на здравоохранение. Именно здесь ИИ проходит самое сложное испытание: многоуровневое регулирование, решения, от которых зависят жизнь и смерть, сложная биология и глубоко человеческая, сострадательная сущность медицины - то, что большинство людей сочли бы последним, что машина вообще сможет воспроизвести.

Почти десять лет назад ученый-компьютерщик и лауреат Нобелевской премии Джеффри Хинтон, известный как «крестный отец ИИ», заявил, что больницам стоит прекратить подготовку рентгенологов, потому что уже через пять лет искусственный интеллект будет выполнять эту работу лучше. Однако почти десять лет спустя рентгенологов стало больше, чем когда-либо.

Из 950 инструментов искусственного интеллекта и машинного обучения, получивших одобрение FDA в период с 1995 по 2024 год, 723 приходились на рентгенологические устройства. Машины стали лучше. Люди никуда не исчезли.

Когда я недавно поднял этот вопрос в разговоре с Хинтоном, он поспешил уточнить свою позицию, но от сути сказанного не отказался. По его словам, он ошибся не в самой технологии. Ошибка была в экономике.

««Здравоохранение - очень эластичный рынок», — сказал он мне. - Если бы вы позволили медицинскому работнику делать в десять раз больше, мы бы все получали в десять раз больше медицинской помощи. Особенно пожилые люди - они могут получать практически бесконечный объем услуг».

Стандартный вопрос — «Заменит ли ИИ врачей?» — оказывается неверно поставленным. Спрос на медицинские услуги практически бесконечен. Всегда найдется еще один снимок, который нужно прочитать, еще одно заболевание, остающееся недиагностированным только потому, что ни у кого не хватило времени его увидеть. ИИ не сократит численность медицинского персонала. Он лишь покажет, насколько велика была неудовлетворенная потребность в медицинской помощи, существовавшая всегда.

Когда ИИ превосходит врачей — и когда он терпит неудачу

В некоторых случаях ИИ уже превосходит врачей. Кардиолог и исследователь Эрик Топол указал на пять исследований, в которых системы ИИ, работавшие самостоятельно, превзошли врачей, использовавших ИИ лишь как вспомогательный инструмент.

«Я все еще думаю, что комбинация, скорее всего, победит, - сказал мне Топол. - Но я уже не так уверен в этом, как был в 2019 году».

Почему искусственный интеллект, действующий самостоятельно, иногда показывает лучшие результаты, чем человек, использующий его в качестве помощника? Одно из объяснений связано с тем, что исследователи называют пренебрежением к автоматизации: врачи зацикливаются на первоначальном диагнозе и не корректируют его, даже когда система предлагает альтернативу. Другое объяснение состоит в том, что мы просто еще не научились эффективно работать вместе с такими инструментами.

Но далеко не все данные говорят в пользу машины.

В рандомизированном контролируемом исследовании, опубликованном в журнале Nature Medicine, кардиолог Джек У. О’Салливан и его коллеги протестировали систему ИИ на сложных кардиологических случаях, связанных с подозрением на генетические кардиомиопатии - диагноз, который даже опытные врачи считают непростым.

«Специалистов мало, - сказал он. - Может ли ИИ помочь врачам общей практики мыслить так же, как они?»

Может. Кардиологи общей практики, работавшие с помощью ИИ, давали оценки, которые специалисты предпочитали чаще, и при этом допускали меньше клинически значимых ошибок. Однако 6,5% ответов ИИ содержали клинически значимые галлюцинации.

Особая ценность этого результата проявилась в том, что произошло дальше.

«Когда кардиолог-человек спрашивал модель ИИ: “Вы уверены, что эхокардиограмма показала утолщение желудочка?”, ИИ исправлял себя». То есть машина не понимала, что ошибается, пока кто-то не задавал ей уточняющий вопрос.

Есть и более тревожные сигналы. Всего месяц назад, как отметил Топол, в статье в Nature Medicine была опубликована оценка медицинской сортировки с использованием самой продвинутой модели ChatGPT. Она ошибочно сортировала пациентов более чем в половине случаев, рекомендуя им оставаться дома, хотя им была срочно необходима помощь в отделении неотложной помощи.

«Нам предстоит еще долгий путь», - сказал он.

Доказательства остаются противоречивыми. В одних задачах ИИ лучше работает сам по себе. В других человек и машина вместе превосходят каждого из них по отдельности. В-третьих технология оказывается опасно ненадежной. Настоящая проблема не в том, работает ли ИИ, а в том, когда именно это происходит.

Наиболее значительное изменение, возможно, будет связано не с точностью диагностики, а со временем. Современные системы здравоохранения построены вокруг лечения болезней после появления симптомов. Топол считает, что ИИ способен помочь сдвинуть медицину на более ранние стадии вмешательства.

«Три основных возрастных заболевания - нейродегенеративные заболевания, рак и сердечно-сосудистые заболевания - развиваются в организме на протяжении 15–20 лет, — сказал он мне. - У нас огромный потенциал для работы, но у нас не было способа интегрировать все данные. У нас даже не было всех данных».

Теперь ситуация начинает меняться. Уже полмиллиарда человек используют умные часы и другие носимые устройства, которые генерируют непрерывные потоки данных о вариабельности сердечного ритма, уровне кислорода в крови и сне. Исследователи из Стэнфорда недавно показали, что по данным датчиков сна, собранным всего за одну ночь, можно точно предсказать 130 заболеваний.

«Органные часы», основанные на тысячах белков крови, теперь позволяют оценивать биологический возраст отдельных систем органов.

По словам Топола, недостающим звеном остается иммуном - всеобъемлющая карта иммунной функции человека.

«После мозга иммунная система - самая сложная система в организме, - сказал он. - И у нас до сих пор нет возможности измерять ее в клинике. В 2026 году это ужасно осознавать».

Он считает, что нарушение регуляции иммунной системы является связующим звеном между раком, нейродегенеративными и сердечно-сосудистыми заболеваниями, а возможность измерять этот показатель откроет новую эру прогнозирования рисков.

Возможность заключается не в том, чтобы заменить врачей одним прорывным продуктом, а в том, чтобы построить инфраструктуру вокруг новой модели профилактической помощи: сон, носимые устройства, белки крови. Реальный потенциал ИИ может состоять в незаметном мониторинге самых ранних предупреждающих сигналов организма и вмешательстве задолго до того, как болезнь станет клинически заметной.

Правовые, этические и человеческие ограничения ИИ в здравоохранении

Следует признать, что внедрение ИИ в здравоохранение не будет чисто техническим процессом.

Хинтон указал на правовую асимметрию. Если врач не использует доступный инструмент ИИ, и пациент умирает, никто не оказывается под судебным преследованием. Но если врач использует ИИ, и это приводит к вреду, ответственность может наступить немедленно. Такая система сдерживает раннее внедрение технологии. Между тем человеческие ошибки по-прежнему широко распространены.

«Мы знаем, что в США ежегодно происходит как минимум 12 миллионов диагностических ошибок, которые приводят к инвалидности или смерти примерно 800 000 человек, - сказал мне Топол. - Но мы, как правило, не говорим об этом. Мы продолжаем говорить об ошибках, которые совершает ИИ».

Кроме того, остается нерешенным вопрос эмпатии. Когда я спросил Хинтона, чувствовал бы он себя комфортно, если бы в конце жизни за ним ухаживал ИИ, он замолчал. «Я мог бы подумать, что он притворяется», — сказал он. Затем добавил: «Но я думаю, что ИИ действительно может проявлять эмпатию».

Топол с этим не согласен.

«ИИ очень хорошо умеет имитировать эмпатию, - сказал он мне. - Но не существует машины, которая знала бы, что такое эмпатия. Люди хотят смотреть человеку в глаза и понимать, что этот человек действительно о них заботится. В этом и состоит суть медицины. Никакая машина никогда по-настоящему этого не заменит».

Понравилась новость? Расскажи друзьям на

Еще больше новостей на нашем Telegram-канале