Росздравнадзор приостановил использование в медучреждениях компьютерной программы на основе искусственного интеллекта

Запрет Botkin.AI

Росздравнадзор приостановил использование компьютерной программы на основе искусственного интеллектаЧто такое искусственный интеллект (ИИ)? Технология искусственного интеллекта (ИИ) позволяет компьютерам подражать человеческому интеллекту (имитировать) и решать задачи. Ключевой характеристикой ИИ является его спос... (ИИ) под названием Botkin. AI в медучреждениях России из-за угрозы причинения вреда жизни и здоровью граждан.

Система использовалась для выявления патологий на снимках компьютерной томографии, рентгена и т.д. Однако производитель «Интеллоджик» не проводил исследование безопасности своей программы в течение 3 лет после внедрения и не отправлял отчеты в Росздравнадзор.

Botkin. AI применяли в Москве вместе с Единой радиологической информационной системой (ЕРИС) для выявления поражений легких при ковиде.

Это первый случай в России, когда Росздравнадзор приостанавливает использование медизделия с ИИ.

Что не так?

1. Невыполнение обязанностей по безопасности: Если разработчик не выполнял обязанности по проведению исследований безопасности своей программы и отправке отчетов в Росздравнадзор в течение трех лет после внедрения, это может рассматриваться как нарушение требований безопасности программного обеспечения. Это может повлечь за собой проверки и приостановку использования программы.
2. Нарушение сроков исследований: Если существует требование проводить исследование безопасности в течение определенного времени после внедрения, то несоблюдение этого срока также может привести к проблемам. В данном случае упоминается трехлетний срок.
3. Отсутствие отчетов: Отсутствие отчетов о безопасности может считаться нарушением требований прозрачности и ответственности. Это важно как для органов регулирования, так и для пользователей системы.
4. Влияние на здравоохранение: Если программа использовалась для выявления поражений легких при ковиде, ее приостановка может повлиять на эффективность диагностики и лечения врачей, использующих данную систему.

Общая рекомендация заключается в том, чтобы разработчики соблюдали законодательные требования, связанные с безопасностью программного обеспечения, и вовремя выполняли обязанности по исследованию и докладыванию о безопасности своих продуктов.

Где применяли технологию?

Botkin. AI применяли в Москве вместе с Единой радиологической информационной системой (ЕРИС) для выявления поражений легких при ковиде.

С августа 2021 по февраль 2022-го программа Botkin. AI участвовала в проекте Минздрава Тульской области. В июне прошлого года систему внедрили в сети «Открытая клиника».

Почему это очень важно?

Это первый случай в России, когда Росздравнадзор останавливает использование медицинского изделия с искусственным интеллектом.

Такие технологии представляют высокий уровень риска. Никто не отказывается от контроля над компьютерным принятием решений. Внедрение этих систем будет тщательно мониториться в течение нескольких лет, что и подчеркивается решением Росздравнадзора.

Важно осознавать, что будущее принадлежит искусственному интеллекту и врачам-специалистам, занимающимся анализом данных после КТ или МРТ,не хватает ИИ. Ожидание результатов этих обследований приводит к длительным очередям на запись, иногда на несколько недель или месяцев. Искусственный интеллект может справиться с этой проблемой.

В период пандемии, с апреля по июнь 2020 года, искусственный интеллект проанализировал более 152 тысяч снимков легких в Москве, выявив пневмонию на 75 тысячах из них.

Все равно окончательное заключение формулировал врач, однако это стало значительной поддержкой для рентгенологов.