Доктор Гугл? ИИ может быть карманным доктором, но глава отдела здравоохранения компании призывает проявлять осторожность в отношении его ограничений Google

тПоявление ИИ в здравоохранении означает, что в один прекрасный день каждый может иметь врача в своем кармане, но главный санитарный врач Google призвал проявлять осторожность в отношении того, что может делать ИИ и каковы должны быть его ограничения.

«У людей появится возможность иметь лучший доступ к услугам [and] нуждаются в высококачественных услугах», — сказала д-р Карен ДиСальво в интервью Guardian Australia на прошлой неделе.

«Но мы — способ добиться этого. Нам предстоит много работы, чтобы убедиться, что модели имеют соответствующие ограничения, что они реалистичны и непротиворечивы, и что они следуют этим этическим и справедливым подходам, которым мы хотели бы следовать — но я очень воодушевлен потенциалом даже как клиницист».

ДеСальво, бывший чиновник здравоохранения в администрации Обамы, возглавляет Google Health с 2021 года и впервые посетила Австралию в своем качестве на прошлой неделе. Она сказала, что ИИ станет «инструментом в наборе инструментов» для врачей и может помочь решить проблему нехватки рабочей силы и улучшить качество ухода за людьми. Она добавила, что это заполнит пробелы, а не заменит врачей.

«Как врач я иногда должен сказать: «Боже мой, в моем наборе инструментов есть этот новый стетоскоп под названием Модель большого языка, и он сделает много удивительных вещей». Но он не заменит врачей — я думаю, это инструмент в наборе инструментов».

На прошлой неделе Google Исследование опубликовано в журнале Nature. проанализировали, как большие языковые модели (LLM) могут отвечать на медицинские вопросы, при этом в исследование была включена их собственная LLM Med-PaLM.

LLM получили 3173 наиболее часто запрашиваемых медицинских вопроса в Интернете, и результаты показали, что система Med-PaLM давала ответы наравне с ответами врачей в 92,9% случаев. Ответы были оценены как потенциально опасные на уровне 5,8%. Авторы заявили, что необходима дальнейшая оценка.

Он все еще находится в «этапе тестирования и обучения», сказал ДеСальво, но LLM могут быть лучшими врачами-стажерами, имея под рукой все учебники в мире.

«Я сторонник того, что здесь есть потенциал, и мы должны быть смелыми, когда думаем о возможном использовании, чтобы помочь людям во всем мире».

Но она сказала, что он никогда не должен заменять людей в диагностике и лечении пациентов, отметив, что могут возникнуть опасения по поводу потенциального ошибочного диагноза, поскольку ранние LLM уязвимы для так называемых «галлюцинаций ИИ», которые формируют исходный материал для соответствия желаемому ответу.

«Одна из вещей, на которых мы действительно сосредоточены в Google, — это настройка модели и ограничение модели таким образом, чтобы сделать ее реалистичной», — сказала она. «Будь то для врача или пациента, вам не нужен сонет о вашей химиотерапии, вы хотите знать, что написано в литературе. [and] Это верно?»

Конечная цель, по словам ДеСальво, состоит в том, чтобы устранить информационный дисбаланс между медицинской отраслью и общественностью и передать как можно больше власти в руки пациентов.

«Информация является определяющим фактором здоровья. И она начинается, когда люди понимают и узнают о потенциальном состоянии… Мы хотим, чтобы у людей были эти знания и свобода действий», — сказала она.

«Когда я тренировался, мне нравилось, когда [patients] Я появлялся с распечатанными листами или блокнотом на спирали, где строчками было написано все о глюкозе, и мы могли по-настоящему поговорить».