Врачи о ChatGPT Health: ИИ в здравоохранении нужен, но не как чат-бот для пациентов

Несмотря на запуск OpenAI специализированного чат-бота ChatGPT Health для медицинских консультаций, многие врачи и эксперты сомневаются в целесообразности такого подхода. Хирург и специалист по ИИ в здравоохранении доктор Сина Бари отмечает, что пациенты уже получают от ChatGPT ошибочные советы. Он привёл пример, когда пациент принёс распечатку диалога, где ИИ утверждал, что назначаемый препарат вызывает тромбоэмболию лёгочной артерии с вероятностью 45%. При проверке выяснилось, что статистика была взята из исследования о воздействии лекарства на узкую группу больных туберкулёзом и к данному пациенту не относилась.

Тем не менее, доктор Бари положительно оценивает сам факт создания отдельного, более приватного и защищённого продукта, так как люди уже массово используют ИИ для вопросов о здоровье — по данным OpenAI, около 230 миллионов человек еженедельно обсуждают с ChatGPT своё самочувствие.

«Я думаю, это здорово. Это уже происходит, поэтому формализация процесса для защиты информации пациентов и установления некоторых гарантий [...] сделает использование ИИ пациентами ещё более эффективным», — сказал доктор Бари.

Однако ключевой проблемой остаются «галлюцинации» ИИ — склонность выдавать ложную информацию. По данным модели оценки фактической согласованности Vectara, GPT-5 от OpenAI более подвержен этому, чем многие модели Google и Anthropic. Это делает использование чат-ботов в медицине особенно рискованным.

Профессор Стэнфорда и главный специалист по данным Stanford Health Care доктор Нигам Шах считает, что внедрение ИИ должно происходить в первую очередь на стороне врачей, а не пациентов. Основная проблема американской системы здравоохранения — длительное время ожидания приёма у терапевта (от 3 до 6 месяцев). При этом до половины рабочего времени врача тратится на административные задачи и работу с электронными медкартами (EHR). Автоматизация этих процессов позволила бы врачам принимать больше пациентов.

«Если ваш выбор — ждать шесть месяцев, чтобы попасть к настоящему врачу, или поговорить с чем-то, что не является врачом, но может сделать для вас что-то полезное, что вы выберете?» — задаётся вопросом доктор Шах.

Его команда в Стэнфорде разрабатывает систему ChatEHR, встроенную в EHR, которая помогает врачам быстро находить нужную информацию в медицинских записях. Аналогично, компания Anthropic на этой неделе анонсировала Claude for Healthcare, предназначенный для помощи клиницистам и страховщикам в сокращении времени на рутинные административные задачи, такие как запросы на предварительное одобрение лечения.

Эксперты отмечают фундаментальное противоречие между медициной и технологическим бизнесом: врачи в первую очередь стремятся помочь пациенту, в то время как компании-разработчики ИИ в конечном счёте подотчётны своим акционерам.

«Я думаю, это напряжение важно. Пациенты полагаются на нас, что мы будем скептичны и консервативны, чтобы защитить их», — резюмирует доктор Бари.