Запрет Botkin.AI
Росздравнадзор приостановил использование компьютерной программы на основе искусственного интеллектаЧто такое искусственный интеллект (ИИ)? Технология искусственного интеллекта (ИИ) позволяет компьютерам подражать человеческому интеллекту (имитировать) и решать задачи. Ключевой характеристикой ИИ является его спос... (ИИ) под названием Botkin. AI в медучреждениях России из-за угрозы причинения вреда жизни и здоровью граждан.
Система использовалась для выявления патологий на снимках компьютерной томографии, рентгена и т.д. Однако производитель «Интеллоджик» не проводил исследование безопасности своей программы в течение 3 лет после внедрения и не отправлял отчеты в Росздравнадзор.
Botkin. AI применяли в Москве вместе с Единой радиологической информационной системой (ЕРИС) для выявления поражений легких при ковиде.
Это первый случай в России, когда Росздравнадзор приостанавливает использование медизделия с ИИ.
Что не так?
- Невыполнение обязанностей по безопасности: Если разработчик не выполнял обязанности по проведению исследований безопасности своей программы и отправке отчетов в Росздравнадзор в течение трех лет после внедрения, это может рассматриваться как нарушение требований безопасности программного обеспечения. Это может повлечь за собой проверки и приостановку использования программы.
- Нарушение сроков исследований: Если существует требование проводить исследование безопасности в течение определенного времени после внедрения, то несоблюдение этого срока также может привести к проблемам. В данном случае упоминается трехлетний срок.
- Отсутствие отчетов: Отсутствие отчетов о безопасности может считаться нарушением требований прозрачности и ответственности. Это важно как для органов регулирования, так и для пользователей системы.
- Влияние на здравоохранение: Если программа использовалась для выявления поражений легких при ковиде, ее приостановка может повлиять на эффективность диагностики и лечения врачей, использующих данную систему.
Общая рекомендация заключается в том, чтобы разработчики соблюдали законодательные требования, связанные с безопасностью программного обеспечения, и вовремя выполняли обязанности по исследованию и докладыванию о безопасности своих продуктов.
Где применяли технологию?
Botkin. AI применяли в Москве вместе с Единой радиологической информационной системой (ЕРИС) для выявления поражений легких при ковиде.
С августа 2021 по февраль 2022-го программа Botkin. AI участвовала в проекте Минздрава Тульской области. В июне прошлого года систему внедрили в сети «Открытая клиника».
Почему это очень важно?
Это первый случай в России, когда Росздравнадзор останавливает использование медицинского изделия с искусственным интеллектом.
Такие технологии представляют высокий уровень риска. Никто не отказывается от контроля над компьютерным принятием решений. Внедрение этих систем будет тщательно мониториться в течение нескольких лет, что и подчеркивается решением Росздравнадзора.
Важно осознавать, что будущее принадлежит искусственному интеллекту и врачам-специалистам, занимающимся анализом данных после КТ или МРТ,не хватает ИИ. Ожидание результатов этих обследований приводит к длительным очередям на запись, иногда на несколько недель или месяцев. Искусственный интеллект может справиться с этой проблемой.
В период пандемии, с апреля по июнь 2020 года, искусственный интеллект проанализировал более 152 тысяч снимков легких в Москве, выявив пневмонию на 75 тысячах из них.
Все равно окончательное заключение формулировал врач, однако это стало значительной поддержкой для рентгенологов.
