Эксперты BMJ рассказали, как медикам применять нейросети и не навредить пациентам.
Врачам назвали шесть правил, которые помогут безопасно использовать искусственный интеллект при диагностике и лечении пациентов. Рекомендации опубликовали в Британском медицинском журнале (BMJ). Эксперты отдельно обращают внимание: ответственность за принятое решение остается на медике, даже если ошибочный результат выдала нейросеть.
Перед использованием ИИ врач должен разобраться, для каких задач предназначена конкретная система и одобрена ли она медицинским учреждением. Если модель, например, разработана только для выявления диабета, применять ее для других задач не следует. Медик также должен уметь объяснить пациенту, почему выбрал именно эту систему.
Отдельное правило касается персональных данных. В общедоступные нейросети и системы, которые не одобрены руководством медучреждения, нельзя загружать имя пациента, сведения о его заболевании и другую информацию, позволяющую установить личность.
Полученные от ИИ результаты нельзя принимать без проверки. Врач должен убедиться, что исходные сведения внесены правильно, особенно при их автоматическом копировании, и проверить, не пропустила ли система важные данные. Если ответ нейросети расходится с профессиональным суждением медика, результат необходимо перепроверить.
Эксперты также советуют сообщать пациенту об использовании искусственного интеллекта. Если человек попросит отказаться от такой технологии, врачу стоит рассмотреть альтернативный вариант. Когда без ИИ обойтись нельзя, причины его применения следует объяснить.
Использование нейросети необходимо фиксировать и в медицинской документации. В отчетах следует указывать, где и каким образом применялся ИИ, а также название и другие сведения о системе.
Последнее правило касается ответственности. Любые результаты работы ИИ врач обязан оценивать самостоятельно, а главной целью использования технологии должна оставаться безопасность пациента. В BMJ отмечают, что медика могут критиковать как за применение неподходящей системы или ее неправильное использование, так и за отказ от ИИ в ситуации, когда его следовало применить.
Больше актуальных новостей и эксклюзивных видео – в нашем МАХ-канале.
