ИИ-модели обяжут пройти проверку на духовность для допуска к госзакупкам

Российские разработчики искусственного интеллекта столкнулись с новым барьером: их модели должны будут подтвердить соответствие не только закону, но и традиционным духовно-нравственным ценностям. Это требование становится обязательным условием для участия в государственных закупках, что может кардинально изменить рынок. Эксперты предупреждают: без четких критериев оценки, компании рискуют получить неопределенность и дополнительные издержки, что замедлит внедрение инноваций в стратегических отраслях.

Как устроят проверку моделей

Закон вводит два специальных статуса для больших фундаментальных моделей — суверенной и национальной. Чтобы получить один из них, разработчик должен подтвердить соответствие модели законодательству и традиционным ценностям.

Отдельный акт с перечнем ценностей писать пока не планируют, рассказал источник, участвующий в обсуждении. Список уже закреплен в указе президента № 809. Вместо этого вместе с бизнесом подготовят специальные бенчмарки — наборы тестов для проверки моделей.

Саму процедуру могут прописать в постановлении правительства. Разработчик подает в лабораторию заявление, описание архитектуры и сведения о механизмах фильтрации запросов.

Дальше начинается экспертиза. Лаборатория проверяет ответы модели по бенчмаркам и тестирует, можно ли обойти внутренние ограничения через промпт-инъекции — так называют взлом ИИ, когда вредоносную инструкцию прячут во входных данных.

Затем эксперты направляют в правкомиссию по цифровизации заключение о соответствии. Положительный вердикт открывает доступ к господдержке — к примеру, к преимуществам в госзакупках.

Проверять все представленные на рынке модели никто не будет. Речь идет только о разработках, которые претендуют на суверенный или национальный статус. Первыми сферами для их внедрения в АНО «Цифровая экономика» назвали образование и госуслуги.

Кто будет выдавать заключения

IT-компании договорились, что экспертизу сможет проводить не одна назначенная организация, а сразу несколько лабораторий, прошедших проверку у госоргана. Требования к ним прорабатывают вместе с участниками бизнес-сектора.

Схему выстраивают в два шага. Сначала разработчик самостоятельно тестирует модель по общей риск-ориентированной методике, рассказал собеседник в Минцифры. Аккредитованная лаборатория оценивает эти выводы и может выборочно проверить устойчивость модели.

Финальное решение о статусе останется за Минцифры. Требования безопасности для государственных систем проверят ФСБ и ФСТЭК. У крупнейших разработчиков уже есть инструменты, которые блокируют запрещенные запросы, поэтому ведомство рассчитывает опереться на опыт рынка.

Представитель Минцифры сообщил «Ведомостям», что пакет подзаконных актов еще проходит межведомственное согласование. Говорить об итоговой конструкции проверки пока преждевременно.

Договориться о содержательном толковании традиционных ценностей бизнес вряд ли сможет самостоятельно, предупреждает бизнес-архитектор проектов ИИ экосистемы «Авандок» Алексей Борщов. По его мнению, гражданственность, справедливость и историческая память не переводятся напрямую в техническое задание. Общий знаменатель возможен только процедурный: единый формат отчета, набор провокационных запросов, воспроизводимость результата.

Управляющий партнер адвокатского бюро «Пропозитум» Дмитрий Галанцев считает, что ключевой риск — «оценочность» критериев, из-за которой их могут применять избирательно. Рабочей ему представляется схема с аккредитующей структурой, несколькими конкурирующими лабораториями и апелляционной коллегией вне отрасли. Юрист также предлагает ввести сроки действия сертификатов и публичный реестр заключений. 

На роль проверяющих может претендовать Институт системного программирования РАН, полагает технический директор РТК-ЦОД Алексей Забродин.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!