«Нейросеть не поставит диагноз»: как в Амурской области будущих врачей учат разговаривать с ИИ

Современная медицина

Третий год преподаватель с кафедры медицинской физики Инна Шадрина ведет в Амурской медакадемии дисциплину, где студентов лечебного и педиатрического факультетов учат формулировать запросы к нейросетям. И третий год наблюдает одну и ту же картину: почти вся группа владеет только самой простой техникой промпта. Шесть базовых техник, которые разбирают на занятии, студенты осваивают уже в процессе, но начинают все с одного и того же места.

— Плохо только то, что это ухудшает состояние физического интеллекта у людей — своего собственного, человеческого, — констатирует преподаватель. — Нейросети много ошибаются — они должны быть помощниками и консультантами, еще одним мнением, но не итоговым значением.

Ключевое, что должны усвоить студенты, — ограничения искусственного интеллекта. Нейросеть не обладает сознанием, не осуществляет логический вывод в человеческом понимании. Она генерирует текст на основе вероятностных распределений, заложенных в алгоритме, и обучена на определенных данных. Чем дольше существует сеть и чем качественнее данные, на которых она обучалась, тем точнее будет ответ. Но ошибки: вымышленные источники, неверные данные — так называемые «галлюцинации» — возможны всегда.

Отсюда требование к запросу: четкие ограничения, формат ответа, ссылки на исходные данные. Нейросеть нужно обучить тому, что от нее требуется, иначе риск получить ложную информацию возрастает.

— На лекциях у нас очень много разной информации, поэтому бывает сложно вникнуть во что-то одно. Какие-то единичные упоминания быстро забываются, — признался студент педиатрического факультета Максим Петлюх.

Техника врачебного промпта

На занятии студентам дают клиническую ситуацию: пришел пациент с жалобами. Задача: сформулировать промпт к нейросети. Преподаватель смотрит, кто и какой техникой воспользовался, и почти вся группа оказывается на самой простейшей — запросом без примеров.

— Здесь задача — чтоб они понимали смысл в шести техниках. Естественно, самой профессиональной является шестая, но она подходит не всегда. Если требуется шаблонный ответ или, например, выявление закономерностей, быстрее и точнее будет результат, выданный после использования третей и четвертой техникой соответственно, — объясняет Инна.

Студенты генерируют запросы, получают ответы и анализируют их. Здесь задействуется логическое мышление: соответствуют ли элементы промпта структуре ситуации, выстроена ли причинно-следственная связь между симптомами и предполагаемым диагнозом. Формируется критическое мышление: выявить недостающие или избыточные данные, некорректные сведения, противоречия. Понять, хватает ли данных для ответа, и сформулировать уточняющие запросы.

— Допустим, есть такая штука, как негативный промпт. Это такая условность при написании основного запроса, которая уточняет то, чего на исходном ответе нейросети или генерируемом изображении/видео быть не должно, — поясняет студент Владислав Шейко с факультета лечебного дела. — Например, банальные лишние пальцы можно убрать уточнением: «создавай на руке только 5». По идее, такая конструкция должна исключить некоторое недопонимание между нейросетью и человеком при генерации чего-либо.

Затем дается другая ситуация — и студенты самостоятельно применяют все шесть техник. К концу занятия приходят к выводу: самая качественная — шестая, она отвечает более глобально и правильно.

Препарирование нейросети

На занятиях используется нейросимулятор — небольшая программа, где студенты визуально видят, как работает сеть.

— Они изучают, что собой представляет математический нейрон. Вводят коэффициенты и смотрят, как происходит расчет, как осуществляется классификация чисел, — объяснила Инна Александровна. — Они формируют обучающие примеры и обучают нейросеть — «перцептрон» — классифицировать числа на чётное/нечётное.

Дальше задача усложняется — распознавание букв русского алфавита. Здесь они убеждаются, что сеть обладает свойством обобщения: может распознавать буквы правильно, но может и ошибаться. Затем — печатные и рукописные буквы, многослойная модель искусственного интеллекта и простейшие логические функции.

— Самым интересным, на мой взгляд, было изучать построение нейрона. В программе заранее есть, условно, нейрон, и ему можно задать определённые параметры, — отметил Владислав Шейко.

И наконец — медицинская задача. Нужно научить сеть определять, болен пациент гриппом или нет. Студенты сами выбирают симптомы, диапазон — на основе своих знаний. Сеть проектируется, они видят структуру. Формируют обучающие примеры — не меньше семи. Затем вводят нового пациента с другими симптомами и смотрят, правильно ли сеть ставит диагноз.

— Есть задача и посложнее: научить сеть ставить один из трех диагнозов — пневмония, ОРВИ или здоров. Ее разбирают студенты постарше, на четвертом курсе. Они пишут примеры для ИИ на основе своего багажа знаний, — поделилась преподаватель.

Расчет вручную

Дальше — расчет параметров нейросети на медицинском примере. Студенты должны нормализовать данные, привести их к единой системе измерения. Посчитать взвешенную сумму, подобрать функцию активации, определить смещение и порог.

Нейросеть с одним входом должна ответить, есть ли у пациента риск развития диабета второго типа. Затем с двумя входами — уровень стресса по шкале и количество шагов в день. Вопрос: есть ли риск повышенного артериального давления. На выходе — «да» или «нет».

— Это простейший пример, но он дает представление о том, как работают нейронные сети. Если данных больше — сеть сложнее, взаимосвязей больше, расчеты дольше. Но часов по дисциплине мало, и глубоко погрузиться невозможно, — отмечает Инна Шадрина.

Создать диетолога с нуля

Перед началом учебного периода преподаватель дисциплины изучает новые возможности нейросетей и дополняет программу актуальными темами — в этот раз добавили направление, посвященное конструкторам чат-ботов. Студенты будут создавать бота-консультанта по питанию.

— Здесь ребята поймут, как правильно задавать вопросы, какая структура должна быть. Какие вопросы важны, какие — нет. Они научатся строить разветвленные сценарии, выстраивать логику консультации, вести пользователя по воронке. В конструкторе также закладываются формулы: например, расчет индекса массы тела, — продолжает преподаватель.

И снова возвращаются к промптам: формулировки должны быть точными, инструкции — четкими, чтобы бот давал корректные ответы, не выходил за рамки роли консультанта по питанию, соблюдал медицинскую этику. Приветствие, реакция на нестандартные ответы, вежливый отказ.

— Боты не должны ставить диагнозы — вместо них появляется рекомендация обратиться к врачу. Так контролируется вопрос безопасности: что именно бот может советовать, а что — нет, как избежать вредных рекомендаций, — рекомендует Инна Шадрина.

У студентов развивается проектное мышление: от начала до конца. Интерфейс, кнопки, время ожидания ответа. Навык тестирования и отладки: собрать бота, протестировать, найти логические ошибки, исправить. За день делают мини-проект.

По следам болезни

Еще одна тема — модели представления знаний. Нейросети — только часть искусственного интеллекта. В основе ИИ лежат базы знаний, и студенты должны иметь представление о том, как формируются данные.

— Здесь развивается клиническое мышление: отделять существенное от второстепенного. Ключевые симптомы, факторы риска, убрать лишнее. Перевод терминологии врача в терминологию, понятную компьютеру. Если врач говорит «больной бледен, вялый», нужно прописать формально: кожа бледная, тонус снижен, — обращает внимание Инна Шадрина.

Студенты учатся представлять медицинские знания в трёх формах.

Семантическая сеть — это граф из узлов и связей: симптомы, болезни, причины, методы лечения соединяются линиями, и сразу видно, что с чем связано.

Фреймовая модель — структура вроде карточки с ячейками-слотами, куда заносятся характеристики болезни; здесь важно действовать по протоколу, как при сборе анамнеза.

Продукционная модель — жёсткие логические цепочки «если — то», которые выстраиваются последовательно и учат принимать решения даже при неоднозначных данных. Все три модели строятся на одной задаче: чтобы студенты увидели, как по-разному можно организовать одну и ту же информацию.

— Студенты находят все цепочки по своей теме и систематизируют их. Они учатся принимать решения в условиях неопределенности: например, если два симптома указывают на разные болезни — продумывают, что добавить в модель, чтобы было однозначно, — подытожила Инна.

В итоге на руках у студентов три графические модели одной задачи — и понимание, как вообще устроена база знаний. Семантическая сеть показывает связи, фрейм — структуру, продукция — логику вывода. Вместе они дают то, чего не даёт простой перечень симптомов: видение болезни как системы взаимосвязанных процессов.

— И всё же я считаю, что фреймовая система лучше подходит для решения большинства задач. Потому что, на мой взгляд,  она включает в себя очень большое количество разных данных и структурирует их под правильным углом, — отметил студент лечебного дела.

IT-кружок для медиков

Самым сложным для студентов было и остаётся изучение основ языка программирования Python. Чтобы облегчить учебу, на кафедре медицинской физики организовали IT-клуб — собираются раз в месяц, начиная с первого курса. Идут от легких тем — к сложным. Со второго года студенты уже начнут писать простейшие нейронные сети.

— Про клуб на кафедре я узнал совсем недавно, однако считаю его крайне полезным для подготовки студентов к будущим обязанностям современного врача и адаптации к рабочим системам, — поделился Максим Петлюх. — Чем больше специалисту приходится сидеть за отчетами и рутинными заполнениями данных, тем меньше времени он сможет уделить самому пациенту.

В перспективе — методы машинного обучения для прогнозирования заболеваний, но мешает отсутствие данных. Медицинская информация конфиденциальна, поэтому используют обезличенные data-сеты из открытого доступа. В рамках курса показывают шаблоны программ: подаешь данные — она автоматически рассчитывает.

— С ноября откроется школа преподавателей облачных технологий от крупной IT-компании, и уже в следующем году планируется использование облачных ресурсов: виртуальные машины, платформа, мощные ресурсы независимо от компьютеров академии, — поделилась планами Инна Шадрина.