Министерство цифрового развития активно работает над законопроектом, целью которого является сохранение первостепенной роли человека в процессах, связанных с искусственным интеллектом (ИИ) в ключевых общественных областях. Как стало известно 13 февраля, издание «Известия» освещает эти инициативы.
Новый проект предполагает, что ИИ не будут привлекать к принятию решений в таких сферах, как здравоохранение, судебная система, образование и безопасность. Член Комитета Госдумы по информационной политике Антон Немкин подчеркивает, что отсутствие четких требований о необходимости человеческого вмешательства в использование ИИ может привести к серьезным системным угрозам. Он отметил риски дискриминации и алгоритмических ошибок, которые могут возникнуть в результате обучения моделей на неполных или предвзятых данных. Кроме того, остается открытым вопрос, кто несет ответственность за возможные ошибки – разработчик, оператор или государство. Это может привести к тому, что решения, касающиеся жизни людей, будут восприниматься как окончательные и без возможности обжалования, что негативно скажется на доверии граждан к цифровым сервисам.
Разработка документа и начало экспериментов
Законопроект создается с учетом рекомендаций профильных ведомств и должен быть направлен в Правительство РФ к концу февраля. В то же время в аппарате кабинета министров уже внедряются эксперименты по применению ИИ. Нейросети используются для генерации документов, анализа данных, подготовки справок и семантического разбора нормативных актов.
Проблемы с медицинскими ИИ-системами
Ранее в феврале выяснилось, что ИИ, используемый в медицинском оборудовании, может представлять опасность для пациентов. Например, по данным, не менее 10 человек получили травмы с конца 2021 года по ноябрь 2025 года, что могло произойти из-за сбоя в навигационной системе TruDi, предоставляющей хирургам неверную информацию о местонахождении инструментов во время операций на головном мозге.
Среди других инициатив на уровне Госдумы также рассматривается проект, в котором будут законодательно закреплены требования к участникам рынка робототехники и беспилотных летательных аппаратов, учитывающий весь жизненный цикл продукции. Комментируя эту инициативу, Артем Шейкин, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству, отметил, что проект должен позволить избежать ситуаций, когда ответственность за риски оказывается размыта между участниками, что приводит к отсутствию последствий за нарушения и инциденты.
