Почему нейросеть может ошибиться в ваших анализах

Нейросети помогают быстро получить предварительное объяснение результатов анализов, но их ответы не всегда надежны. Ошибка может привести как к необоснованному спокойствию, так и к лишней тревоге.

О рисках такой расшифровки 26 сентября «Известиям» рассказал врач-терапевт «Инвитро» Евгений Космынин. По его словам, языковые модели не проверяют медицинские сведения, а формируют ответ на основе предоставленных данных. Поэтому они способны выдавать убедительные, но неверные выводы, ссылаться на несуществующие нормы и неправильно интерпретировать показатели.

Нейросеть может перепутать единицы измерения, которые иногда отличаются в десятки раз, или не учесть особенности конкретной тест-системы. Результаты, полученные с помощью разных методов исследования, могут различаться, однако алгоритм не всегда предупреждает об этом.

Кроме того, ИИ обычно не располагает полной информацией о человеке. Ему неизвестны история заболеваний, принимаемые лекарства, перенесенные операции, наследственные факторы, возраст, пол и другие обстоятельства, влияющие на оценку анализов. Один и тот же показатель может иметь разное значение для разных пациентов.