С ходом цифровизации здравоохранения у пациента появился доступ к собственным медицинским документам, однако низкий уровень ясности медицинского текста часто не позволяет пациенту правильно трактовать написанное. Большие генеративные модели способны стать инструментом для адаптации медицинских текстов, однако сегодня их использование сопряжено с рисками. Целью исследования стала оценка безопасности применения больших генеративных моделей для интерпретации для пациента протоколов лучевых исследований. В ходе исследования 7 моделей выполнили упрощенную интерпретацию текста, входной набор данных включал в себя 8 протоколов компьютерной томографии. Сгенерированные интерпретации были предложены для оценки врачам и респондентам без медицинского образования. Полученные оценки были проанализированы с целью сделать вывод о безопасности внедрения подобной технологии и ее целесообразности на данный момент.

По результатам работы все модели сгенерировали текст, отвечающий основным критериям качества. Однако наблюдалось регулярное нарушение этики и безопасности. Сравнительный анализ не позволил выделить модель, лидирующую по всем критериям одновременно. Также в ходе исследования были выявлены критерии, для которых оценки врачей и респондентов без медицинского образования значимо отличались.

Было продемонстрировано, что, хотя большие генеративные модели формально успешно справляются с упрощенной интерпретацией медицинских протоколов, прямое применение их без системы контроля в клинической области крайне небезопасно. Основной проблемой является искажение исходной информации — включение дополнительных рекомендаций, диагнозов и прогнозов заболевания, что противоречит нормам общения с пациентом. Было показано, что, несмотря на потенциал технологии в рамках области, для безопасного внедрения необходима предварительная разработка системы контроля качества работы больших генеративных моделей, опросника, учитывающего компетенции как экспертов в области, так и непрофессионалов, а также четких пороговых критериев. Настоящая работа является первым шагом на пути к созданию подобной системы.