Искусственный интеллект обретет доверие через реестр
На III форуме доверенного искусственного интеллекта начальник Аналитического центра кибербезопасности ООО "Газинформсервис" Лидия Виткова сообщила, что в 2025 г. должна стартовать разработка реестра доверенных технологий ИИ: "Наша задача — подготовить часть материалов для проекта. В 2026 г. мы планируем запустить пилот. В его рамках будут протестированы взаимодействия модулей внутри государственной информационной системы и с внешними информационными системами. А в 2027 г. сам реестр должен уже появиться".
Лидия Виткова поведала, что в декабре 2024 г. внутри Консорциума для исследований безопасности технологий ИИ образовалась рабочая группа и появился план действий на 2025 г.: "Мы разработали план, включающий форсайт - метод стратегического анализа, который помогает выявлять долгосрочные тенденции и формировать сценарии развития с участием ключевых стейкхолдеров (физических или юридических лиц, которые прямо или косвенно влияют на деятельность компании или заинтересованы в ее результатах). Нашей целью было создать реестр, учитывая их мнения и предложения. На первом этапе мы провели форсайт и стратегические встречи".
Лидия Виткова продолжила: "При разработке концепции возникла необходимость сформировать образ реестра. Для этого был создан драфт архитектуры, который стал результатом совместной работы всех участников". Рассказывая о задачах разработки реестра доверенных технологий ИИ на 2025 г., Лидия Виткова сообщила, что рабочая группа принялась за составление списка функциональных требований для разных компонентов модуля реестра: "К концу августа у нас должен быть готов проект технического задания. В декабре 2025 г. мы начнем этап проектирования реестра доверенных решений ИИ, включая разработку MVP (начальную версию проекта, которая включает только самые важные функции) для некоторых модулей".
10 октября 2019 г. президент РФ Владимир Путин указом №490 утвердил Национальную стратегию развития искусственного интеллекта на период до 2030 г., а другим указом №124 от 15 февраля 2024 г. внес необходимые изменения.
Консорциум исследований безопасности технологий искусственного интеллекта (ИИ) появился в мае 2024 г. по решению Совета безопасности при поддержке министерства цифрового развития, связи и массовых коммуникаций РФ (Минцифры России). На данный момент в нем около 20 участников. На вопрос корреспондента ComNews, задумывался ли Консорциум в рамках развития стратегии ИИ до 2030 г., секретарь Консорциума исследований технологий безопасности ИИ Дмитрий Служеникин сказал, что он стал ответом на задачи, которые поставлены этой стратегией".
Консорциум объединил организации, исследователей и экспертов, стремящихся обеспечить развитие и внедрение ИИ-технологий в соответствии с принципами надежности, прозрачности и этичности.
Заместитель главы Минцифры Александр Шойтов показал на слайде, что на участие в пилоте Консорциума исследований технологий безопасности ИИ согласились три региона. Дмитрий Служеникин пояснил связь пилота и разработку реестра: "Этот пилот начался три месяца назад, к нему могут подключиться и другие регионы. Он пройдет до конца 2025 г. Таким образом, мы отрабатываем логику работы реестра доверенных технологий ИИ, правила работы и совместные взаимодействия".
В рамках пилота Новосибирская область опробует системы голосового самообслуживания. Сахалинская область протестирует распознавание видео и изображений с разных объектов. Республика Татарстан займется анализом фотоизображений сельскохозяйственных земель и испытаниями генеративной модели "ГосПромт" для государственного сектора.
Руководитель направления "Искусственный интеллект" Softline Digital (ПАО "Софтлайн") Максим Милков объяснил, в чем главные отличия обычного ИИ от доверенного: "Обычный ИИ ориентирован на решение прикладных задач без обязательного учета формализованных критериев безопасности и соответствия локальным стандартам. Главные критерии успешного внедрения обычного ИИ — сроки, эффективность, возврат инвестиций. Доверенный ИИ подразумевает фокус на интеграцию механизмов верификации, аудита и управления рисками на всех стадиях жизненного цикла, что обеспечивает повышенную надежность и предсказуемость поведения в критических сценариях".
Вера в реестр доверенных решений ИИ
Директор департамента голосовых цифровых технологий ООО "БСС" (BSS) Александр Крушинский считает, что создание в РФ реестра доверенных решений на основе искусственного интеллекта (ИИ) - логичный, естественный, но и сложный шаг, который обусловлен рядом причин и особенностей: "Он необходим, так как позволит минимизировать риски ошибок, дискриминации, нарушения приватности или злоупотреблений при использовании ИИ-систем в критически важных сферах (медицина, финансы, транспорт, оборонная промышленность). ИИ дошел до определенного уровня зрелости и пришло время стандартизации — формирования и внедрения единых критериев, которые позволят упростить внедрение ИИ-технологий и повысить доверие к ним. При этом есть ряд сложностей, которые сдерживают быстрое и простое формирование реестра. Это связано с бюрократизацией, субъективностью оценок и техническими сложностями".
Директор по инновациям разработчика и интегратора в финтехе Fork-Tech Владислав Лаптев отметил, что реестр поможет снизить риски внедрения ИИ и создать общие стандарты, что критически важно для крупных компаний и госсектора. "С учетом текущих темпов и расширения консорциума, запуск реестра к 2027 г. представляется достижимым. Однако успешность проекта зависит от прозрачности критериев, объективности экспертизы и оперативного обновления данных — без этих факторов бизнес-эффект реестра будет ограничен".
Директор проектов ИТ-экосистемы "Лукоморье" (ООО "РТК ИТ плюс", входит в "Ростелеком") Екатерина Ионова назвала идею создания реестра доверенных ИИ-систем вполне логичной: "У такой инициативы есть весомые преимущества. Реестр позволит компаниям и пользователям легко находить решения, которые уже прошли проверку на безопасность и надежность. Если система сертифицирована, к ней будет выше уровень доверия со стороны бизнеса и конечных пользователей — а значит, ее будут охотнее внедрять. Кроме того, четкие требования, прописанные в рамках реестра, помогут упростить жизнь разработчикам: они смогут либо использовать готовые, одобренные решения, либо создавать продукты с учетом понятных и формализованных стандартов".
Александр Крушинский рассуждает: "Будет ли реестр доверенных решений ИИ создан к 2027 г.? С одной стороны, есть государственная поддержка, которая дает надежду, что все будет сделано. Этому способствуют и тренды цифровизации экономики. С другой стороны, эти процессы чувствительно сдерживают санкционное давление, недостаток экспертизы и разногласия между государством, бизнесом и научным сообществом, что может затормозить согласование критериев реестра. Но вероятность высока".