Автор: Сергей Александрович Князев, канд. мед. наук, зам. главного врача по акушерству и гинекологии ГКБ им. Е.О. Мухина, доц. кафедры акушерства и гинекологии с курсом перинатологии Медицинского института Российского университета дружбы народов им. Патриса Лумумбы (Москва)
При написании статьи или главы книги нередко анализируешь историю той или иной проблемы и оцениваешь эволюцию научного подхода к её решению. Заглянуть в прошлое помогает литература, иногда — редкая, антикварная. А можно ли заглянуть в будущее? Обычно этим занимаются писатели-фантасты, черпающие идеи в своём безграничном воображении, и делают это иногда настолько захватывающе, что их произведения становятся поистине «культовыми». Примером можно считать повесть советского писателя К. Булычева «Сто лет тому вперёд», как и детский фильм, снятый на её основе. К выходу журнала под знаковым и заманчивым номером 100 попробуем отвлечься от сегодняшних проблем и представить себе наше ближайшее (а может, и отдалённое) профессиональное будущее с минимальным вкраплением фантастики.
Избежать перехода в научно-фантастический рассказ нам поможет привязка к существующим сегодня разработкам и системам; некоторые из них уже укрепились и используются, другие пребывают в зачаточном состоянии, но теоретически имеют все предпосылки для дальнейшего развития.
Что же ждёт медицину: облегчение рутины или жёсткая конкуренция с машинами и последующее вытеснение из профессиональной сферы большинства занятых в ней людей?
Начнём с приятного: медицинская документация, отнимающая львиную долю рабочего времени практикующего врача, до сегодняшнего дня заполняемая неповторимым врачебным почерком с помощью пишущей ручки, всё больше уходит в прошлое. Набор отдельных документов и бланков превращается в единый, полностью электронный документооборот, и в ближайшем будущем бумажной версии истории болезни места не будет. Безусловных преимуществ от этого перехода масса — от экономии времени на заполнение и последующее чтение расписанных нечитабельным почерком форм до удобства передачи информации: ни пациентке, ни медицинскому работнику не нужно переносить с места на место кипы бумаги, поскольку вся информация будет доступна на рабочем месте. Помимо удобства пользования это будет огромным выигрышем сточки зрения экологии: достаточно заглянуть в любой архив медицинского учреждения, чтобы понять, сколько бумаги (иногда почти не заполненной) потребляется системой здравоохранения в масштабах города или страны.
Медицинская документация, отнимающая львиную долю рабочего времени, до сегодняшнего дня заполняемая неповторимым врачебным почерком с помощью пишущей ручки, всё больше уходит в прошлое.
Ещё одно преимущество электронного документооборота — возможность обрабатывать и оценивать данные, содержащиеся в отдельных исследованиях, да и во всей истории болезни в целом. Привлечение искусственного интеллекта к анализу массива данных не только одного лечебного учреждения, но и популяции в целом откроет новые горизонты в определении скрытых до последнего времени механизмов и причин тех или иных заболеваний или осложнений. Помимо поиска факторов риска обработка информации позволит оценивать эффективность различных схем лечения, а также той или иной тактики.
Но до этого торжества искусственного разума далеко, ближайшее будущее — простейшие «помощники врача», работающие по достаточно несложным алгоритмам, заложенным в них разработчиком.
Привлечение искусственного интеллекта к анализу массива данных откроет новые горизонты в определении скрытых до последнего времени механизмов и причин тех или иных заболеваний или осложнений.
Сможет ли электронный «помощник» обработки данных составить конкуренцию врачу, а в дальнейшем и вовсе оставить его без работы?
Исходная субстанция любого мыслительного процесса, природного или искусственного, — данные. Практикующий врач принимает решения, исходя из имеющихся у него сведений о пациенте, результатов осмотра и обследования, а также соотносит их с действующими нормативными документами: приказами, клиническими рекомендациями, инструкциями и так далее. В большинстве случаев лечебный процесс ограничивается этими рамками. В редких случаях, когда ситуация не может быть решена с помощью этих инструментов, врач может обратиться к опыту — собственному или своих коллег, данным литературы или применить клиническое мышление для поиска выхода из нестандартной ситуации.
Большинство же обращений за помощью стандартны, и программный продукт в состоянии заменить врача, к тому же исключить пресловутый человеческий фактор — ошибки по невнимательности или усталости. Современные нормативные документы меняются часто, что ухудшает их запоминание, и не знающая усталости и случайных ошибок программа представляется более надёжным вариантом их скрупулёзного соблюдения. Если к этому добавить экономию на заработной плате при замене машиной каждого обслуживающего поток пациентов медицинского работника, то последний представляется обречённым звеном. Более того, привычная модель общения «врач–пациент», к которой мы привыкли, далеко не идеальна.
Лечит ли слово? Или достаточно создать аппарат, способный выдавать распечатанные рекомендации после введения жалоб?
Человек — врач или пациент — способен исказить информацию, как целенаправленно, скрывая что-либо, так и непреднамеренно, банально, по причине своеобразного понимания задаваемого вопроса. Медицинский работник может подразумевать одно, пациент — совершенно другое и, давая положительный или отрицательный ответ, без всякого умысла изменять смысл на противоположный. Для программы намного надёжнее будут данные, получаемые непосредственно от диагностической аппаратуры или внесённые в медицинскую документацию ранее. Например, информация о хирургическом вмешательстве, содержащаяся в протоколе операции, лабораторные данные, результат гистологического исследования из электронной документации будут намного полнее, чем это в состоянии запомнить и изложить пациент самостоятельно. Получается, что система поддержки принятия врачебных решений будет всё меньше нуждаться в общении с человеком, ограничиваясь разве что опросом о существующих жалобах.
Своё заключение программа может подсказывать медицинскому персоналу, а может — напрямую пациенту, предлагая рекомендации по дообследованию или лечению.
Отрасль ждёт очередное массовое сокращение?
В реальности вытеснение медработников программами не так легко выполнимо, как и безусловное преимущество этих продуктов. Как уже говорилось, базовый материал всех описанных ранее процессов — данные. В программный алгоритм они закладываются человеком, который берёт их из клинических рекомендаций, созданных человеком, написанных на основе различных исследований, проведённых опять же человеком. В каждом из этапов есть элемент пресловутого «человеческого фактора», то есть вероятность ошибки, не говоря уже о возможной предвзятости исследователя. Малейшее отступление от заложенного алгоритма способно привести систему в состояние ступора, а в действующих клинических рекомендациях «белых пятен» достаточно. Поэтому говорить о полном вытеснении врача программой преждевременно, уместнее — о перераспределении потока пациентов, но под контролем специалиста, с возможностью вмешательства человека в работу машины, а не наоборот. Ближайший этап развития подобных систем в медицине скорее приведёт не к сокращению числа медицинских работников, а к появлению дефицита специалистов нового класса — обладающих базовыми знаниями о принципах работы программ и способных создать для них алгоритмы или просто наладить лечебный процесс с их участием.
Большинство обращений за помощью стандартны, и программный продукт в состоянии заменить врача, к тому же исключить пресловутый человеческий фактор — ошибки по невнимательности или усталости.
Больше опасений за судьбу медицины, как и человечества в целом, связано с искусственным интеллектом, способным получать знания самостоятельно. Насколько он может вытеснить как клиническое мышление, считающееся самым ценным в работе практикующего врача, так и его самого?
«Помощник врача», использующий искусственный интеллект, способен анализировать и сравнивать получаемые данные с имеющимися и находить связи между ними. Преимущества таких программ очевидны в сфере диагностики: опыт врача базируется на тысячах исследований, машинный анализ может оперировать десятками миллионов.
Именно эта область медицины переживает в настоящее время инвестиционный бум, разработчики делятся впечатляющими результатами по точности диагностических алгоритмов1, а пресса интерпретирует это как превосходство над возможностями человека2.
Однако ситуация с искусственным интеллектом в медицине не столь однозначная. Несмотря на его солидные технические возможности, продвижение таких программных продуктов в практическое здравоохранение идёт медленно, исходя из соображений безопасности.
Существует проблема «чёрного ящика» искусственного интеллекта, когда объяснить выводы, к которым пришла программа, не могут не то что пользователи, а даже сами разработчики алгоритма. Некоторые специалисты считают допустимым использовать в практической медицине такие заключения лишь в двух случаях: в качестве «второго мнения», оставляя окончательное решение за врачом, или в крайней необходимости, когда клиническая ситуация представляется безнадёжной3.
Причины недоверия искусственному разуму появились отнюдь не на пустом месте. Во-первых, искусственный интеллект практически сразу обрёл способность лгать для получения необходимого результата4. Во-вторых, неизвестно, насколько неожиданными окажутся его выводы: на майском саммите британских военно-воздушных сил прозвучало сообщение, что искусственный интеллект решил уничтожить своего оператора, расценив его как помеху в достижении цели5. Несмотря на последовавшее затем опровержение, что слова были вырваны из контекста и неправильно поняты6, осадок, как говорится, остался. В-третьих, неизвестно, какое решение примет машина в двусмысленной ситуации. Например, у пациентки началось атоническое маточное кровотечение, но в учреждении всего одна ампула утеротоника, у которого накануне истёк срок годности. Что выберет алгоритм: нарушение закона или гибель пациентки? Ответов на большинство вопросов нет, поэтому в практику охотнее допускают программные продукты с «объяснимым» (англ.— еxplainable) искусственным интеллектом, логику которого можно проследить, как и проконтролировать достоверность и адекватность выводов. Но подобная «расшифровка» нравится далеко не всем.
Говорить о полном вытеснении врача программой преждевременно, уместнее — о перераспределении потока пациентов, но под контролем специалиста, с возможностью вмешательства человека.
Искусственный разум может быть абсолютно независим от человека?
Начнём с того, что раскрывать принципы работы алгоритма невыгодно для разработчиков — достичь коммерческого успеха создаваемого продукта в этом случае намного сложнее, если вообще возможно. Если человек способен выполнить всю цепочку расчётов вместо программы, то какой в ней вообще смысл?
Защитники искусственного интеллекта апеллируют к тому, что требования к раскрытию механизма принятия им решений и их обоснование намного выше, чем для того же человека, который тоже не всегда в состоянии пояснить свои мысли. Как выразился директор Института этики Дублинского городского университета профессор Берт Гордин (Bert Gordijn), «самих врачей можно рассматривать как чёрные ящики»7.
К тому же ожидания и возлагаемые надежды на идеальный и не подверженный эмоциям и предрассудкам машинный разум довольно завышены. Проблема в том, что даже передача процесса получения данных от человека программе, то есть «машинное обучение», не в состоянии исключить влияние «человеческого фактора». Научный сотрудник Центра образовательных технологий Мюнхенского технического университета Якуб Цихор (Jakub Cichor) призвал не идеализировать системы искусственного интеллекта: «Основное заблуждение состоит в том, что результаты этих технологий объективны и беспристрастны. В частности, в машинном обучении одна из проблем заключается в том, что люди генерируют большую часть обучающих данных. Это в свою очередь приводит к тому, что на базу данных влияют человеческие тенденции и предубеждения, которые перенимаются системой»8.
Ситуация с искусственным интеллектом в медицине не столь однозначная. Продвижение таких программных продуктов в практическое здравоохранение идёт медленно, исходя из соображений безопасности.
Ещё один «чёрный ящик» — массив юридических вопросов, связанных с этими технологиями. Кто будет нести ответственность в случае негативного развития событий? Производитель программного продукта или пользователь? Разработчик скорее всего постарается в лицензионном соглашении перенести ответственность на врача или учреждение, в котором тот работает, но в этом случае для последнего теряется всякий смысл приобретения такого продукта. Отказаться от врача как персоны, «ответственной за случай», вряд ли захотят как организаторы, так и пациенты.
Прогнозировать трансформацию рынка труда в медицине, которую вызовет приход искусственного интеллекта, достаточно сложно. Даже само использование этих программ потребует наличия медицинских работников, имеющих специальные навыки общения с ними, но в настоящее время таковых почти нет. Переучивание части врачей или медсестёр будет приводить к их уменьшению в исходном секторе. Поэтому наиболее вероятный сценарий — меньшая востребованность одних специалистов, которая будет сопровождаться дефицитом других.
Возможно, повлиять на потребность в медицинских работниках сможет уход технологии «в народ»: подрастающее поколение пациентов не боится «лечиться по Google», а массовый спрос будет подстёгивать развитие искусственного интеллекта в медицине финансово. Заболевшие станут меньше обращаться в учреждения здравоохранения, занимаясь самолечением на дому с помощью программ. С другой стороны, неизвестно, насколько широкими будут правовые рамки для использования таких систем внутри и вне профессионального сообщества. Любая регуляция рынка в сторону его сужения приведёт к оттоку инвестиций, периоды ажиотажа будут сменяться разочарованием от неоправдавшихся надежд, и этап взрывного развития перейдёт в период «зимы искусственного интеллекта».
Стартапов в этой сфере появляется много, но сколько из них и какие станут успешными — в настоящее время определить сложно. Надёжнее выглядит сфера рутинной диагностики, также претерпевающая этап бурного развития.
Что ждёт медицинских работников лабораторий и диагностических отделений? И нужны ли они будут?
Аппаратная революция, особенно наглядно изменившая деятельность клинических лабораторий, была обусловлена сочетанием нескольких факторов— развития технологий и экономической выгоды. Скорость выполнения анализа, а главное — объёмы привели к массовому переходу от ручного труда типа подсчёта клеток в камере Горяева к машинному, более рентабельному. Развитие аппаратных технологий было выгодно всем участникам: производителям, зарабатывающим на продаже расходных материалов, и поставщикам услуг, поскольку они востребованы населением. И то, и другое до сих пор стимулирует дальнейший рост индустрии. Вектор развития — вытеснение с рынка маломощных участников крупными сетевыми игроками, обладающими огромной централизованной лабораторной базой и широкой сетью пунктов взятия материала. В свою очередь это привело к перераспределению рынка труда: врачей-лаборантов требуется меньше, процедурных сестёр, регистраторов и курьеров — больше.
Развитие средств коммуникации изменяет порядок работы отделений инструментальной диагностики: врачу больше не надо находиться в непосредственной близости от аппарата. Разместить пациента и запустить процесс может средний медицинский персонал, после чего результат можно переслать на любое расстояние. Это позволяет как получать заключение удалённого консилиума экспертов, так и подключать искусственный интеллект для изучения результатов исследования, но, как уже обсуждалось, со своими, пока далёкими от решения проблемами.
Ещё одно перспективное направление развития рутинной диагностики — появление персональных аппаратов. Удешевление технологий будет снижать стоимость диагностической аппаратуры и может сделать её доступной для пациента. Появляются непрофессиональные аппараты для записи КТГ, датчики для проведения УЗИ, подключаемые к планшетам, и так далее. Для получения врачебного заключения пока необходимо удалённое подключение врача, но, возможно, и здесь его сможет заменить искусственный интеллект. Распространение домашней диагностики будет поддерживаться удобством для потребителя и массовостью, но тормозиться алчностью разработчиков — невозможность подключения к гаджетам разных производителей, навязывание определённых несовместимых разъёмов будет способствовать оттоку потенциальных покупателей.
Постепенно, начиная с простейших процедур, задачи будут усложняться всё больше. После преодоления технических моментов, связанных со сложностью расположения датчиков для получения качественной информации, то, что сегодня кажется невозможным, станет рутинным домашним исследованием. Такую эволюцию за сто лет прошли приборы для измерения артериального давления: от изначально сложных, дорогостоящих, доступных далеко не всем врачам до дешёвых домашних устройств.
Аппаратная революция, особенно наглядно изменившая деятельность клинических лабораторий, была обусловлена сочетанием нескольких факторов — развития технологий и экономической выгоды.
Скорее всего самостоятельная диагностика «на дому» ограничится неинвазивными и минимально инвазивными методами типа взятия крови, более серьёзные процедуры даже если и будут проводиться вне лечебного учреждения, то квалифицированным персоналом. Однако значительно уменьшить количество рутинно сдаваемых анализов в первичном звене здравоохранения персональные гаджеты вполне в состоянии.
Диагностические мероприятия имеют высокую степень юридической ответственности. Например, пренатальный скрининг вряд ли когда-нибудь перейдёт в руки пациента и его гаджета по причине высокой цены ошибки, приводящей к судебным тяжбам с немалыми суммами, требуемыми в качестве компенсации. Скорее будут разрабатываться алгоритмы с машинным обучением в статусе «помощника врача», но окончательное решение ещё долго останется за человеком, как и ответственность за него.
Смогут ли роботы полностью заменить врачей-хирургов? Или в будущем операции станут выполнять совсем без участия в них человека?
Ещё одно направление, имеющее широкие перспективы для развития, — роботизированная хирургия. Наибольший фурор вызвало появление системы da Vinci. После периода восхищений и восторгов прошло достаточно времени, чтобы непредвзято оценить плюсы и минусы роботизированных хирургических систем. Основные преимущества: меньшая инвазивность, отсутствие риска инфицирования хирурга, устранение проблем, связанных с длительным физическим напряжением врача типа физиологического тремора рук. Основной недостаток — неожиданно высокая стоимость использования этой техники.
Для учреждения, решившего ввести у себя роботизированную хирургию, начинается полоса серьёзных финансовых потерь — от закупки недешёвой системы и обучения врачей и до нескончаемого пополнения расходных материалов, в которые производитель превратил всё, что смог. Заложенное в систему проприетарное (то есть тоже несвободное) программное обеспечение не позволяет использовать инструменты больше разрешённого производителем количества операций, нередко выводя аппарат за пределы рентабельности.
Роботизированная хирургия повышает свою окупаемость при большом потоке пациентов, но в акушерстве и гинекологии самая частая операция — кесарево сечение, в которую эта технология пока не вторгается. Родившийся 25 мая 2023 года в клинике Гётеборгского университета мальчик был примерно пятидесятым в мире, выношенным в трансплантированной матке, которую двумя годами ранее впервые пересадили с использованием роботизированной хирургии как для донора, так и для реципиента. Но... появился он на свет благодаря обычному кесареву сечению9.
Даже если технику кесарева сечения и освоят с помощью манипуляторов, то, учитывая количество проводимых операций, умноженное на стоимость расходных материалов для этого вида хирургии, несложно предположить, что это будет непосильное финансовое бремя для государственной системы здравоохранения. Высокие технологии начнут проникать в оперативное акушерство скорее всего начиная с отдельных этапов — разреза и сшивания тканей или сложных вмешательств типа фетальной хирургии или трансплантации. Но оператором робота-хирурга всё равно останется человек.
Наибольший фурор вызвало появление системы da Vinci. После периода восхищений и восторгов прошло достаточно времени, чтобы непредвзято оценить плюсы и минусы роботизированных хирургических систем.
Способностей одного человека уже не хватает, чтобы изучить весь накопленный массив данных. Приведёт ли это к разрушению холистической модели медицины? И кто будет обучать студентов и врачей?
Высокие технологии стали востребованы в процессе обучения, и можно прогнозировать лишь дальнейшее развитие этого направления в виде появления новых симуляционных центров, позволяющих обучать врача практическим навыкам не на пациенте, а на муляже, максимально точно имитирующем реальную картину заболевания или вмешательства. Преимущества такого варианта очевидны: пациент не подвергается риску ошибочного действия неопытного врача, а тот в свою очередь — риску судебного преследования, как и клиника, в которой он работает.
Сложно сказать, приведёт ли это к снижению ответственности и прилежания — адреналин от первых практических шагов в медицине никаким манекеном заменить нельзя, но потенциальное удлинение периода закрепления навыков будет компенсировано возможностью неограниченного числа повторений манипуляции, что в лечебном учреждении вряд ли доступно.
Опасения, что искусственный интеллект расслабит процесс обучения, вряд ли оправданы, скорее это будет помощь в поиске необходимых знаний. Если сравнить скорость, с которой мы получали нужную информацию 30–40 лет назад, с современной, становятся понятны преимущества «века информации». Поездки в библиотеку, работа с научной картотекой, чтение статей, копирование (до появления копировальных аппаратов — выписки), печать на машинке — недели, иногда месяцы на решение задачи, занимающей сегодня несколько часов, иногда — дней при наличии подключения к интернету. Обратная сторона медали — объём потока данных, в котором сложнее определить и выявить необходимую, аглавное— качественную информацию. Вот здесь пригодится искусственный интеллект, анализирующий в фоновом режиме огромные массивы данных и способный структурировать их согласно заданным критериям.
Что же касается прилежания и его дискредитации из-за нечестной конкуренции с использованием нейросетей и искусственного интеллекта, то, безусловно, такие опасения существуют. Однако проблема плагиата или списывания существовала всегда, задача учебного заведения — максимально блокировать эти попытки или разработать такую систему обучения, при которой рейтинг обучающегося не будет зависеть от малого числа оцениваемых параметров, повышая тем самым объективность.
В любом случае обучение медицине и её направлениям, невзирая на искусственный интеллект, скорее всего никогда не перейдёт в разряд лёгких, другое дело, что может измениться наполнение базовых дисциплин. Сложные и подробные углубления в отдельные вопросы каждого предмета станут невозможными, поскольку это или приведёт к удлинению срока обучения ещё на несколько лет, или к потере качества усваивания материала. Базовый объём будет ограничен современными представлениями, необходимыми для понимания связи между дисциплинами, углублённый массив данных потребуется после выбора специализации. Прилежность в его изучении, невзирая ни на какие сложные и интеллектуальные системы контроля, будет также зависеть от честности и порядочности обучающегося, которые невозможно ни создать искусственно, ни сымитировать.
Ещё один животрепещущий и волнующий всех вопрос: в какую сторону развитие технологий изменит содержание и частоту конфликтов врача и пациента? Для ответа на этот вопрос обратимся к прошлому. 16 июня 1891 года в еженедельном журнале «Русская медицина» было опубликовано письмо врача, подписавшегося Z., начинающееся словами: «Мне одинаково противны как нападки на врачей за их якобы бессердечное отношение к пациентам, в особенности к бедным, так и жалобы большинства врачей на безысходность своего положения. Почему? Да потому, что это давным-давно избитая история»10.
За 132 года с момента опубликования этого письма такие споры до сих пор актуальны и вряд ли исчезнут спустя ещё столько же лет. Даже если одного из участников заменит искусственный интеллект или робот, поводы для взаимных претензий всё равно найдутся. Но есть надежда, что отвечать на жалобы, возможно, станет искусственный интеллект...
Pantanowitz L., Quiroga-Garza G.M., Bien L. et al. An artificial intelligence algorithm for prostate cancer diagnosis in whole slide images of core needle biopsies: A blinded clinical validation and deployment study // Lancet Digit. Health. 2020. Vol. 2. №8. P. e407–e416. [PMID: 33328045] ↩
Computer learns to detect skin cancer more accurately than doctors. — URL: Ссылка. ↩
Chan B. Black-box assisted medical decisions: AI power vs. ethical physician care // Med. Health Care Philos. 2023. Vol. 26. №3. P. 285–292. [PMID: 37273041] ↩
Danaher J. Robot Betrayal: A guide to the ethics of robotic deception // Ethics Inf. Technol. 2020. Vol. 22. №2. P. 117–128. ↩
Highlights from the RAeS future combat air & space capabilities summit. — URL: Ссылка. ↩
US air force denies running simulation in which AI drone «killed» operator. — URL: Ссылка. ↩
Gordijn B., Ten Have H. What’s wrong with medical black box AI? // Med. Health Care Philos. 2023. Vol. 26. №3. P. 283–284. [PMID: 37518812] ↩
Artificial intelligence, data science and machine learning — what lies behind the buzzwords? — URL: Ссылка. ↩
World’s first childbirth following a uterus transplantation achieved solely by robot-assisted surgery. — URL: Ссылка. ↩
Русская медицина. 1891. №32. ↩
Добро пожаловать на мероприятие!