— Станислав, доверенный искусственный интеллект сейчас активно обсуждают и ИТ-эксперты, и простые пользователи Сети. Чем он концептуально отличается от «обычного» ИИ в его обывательском значении?
— Действительно, люди иногда думают, что искусственный интеллект – это некий сверхразум или, например, «умная» техника, говорящие холодильники и тому подобные вещи. Но доверенный ИИ – это сущность совершенно другого порядка: не какая-то одна или несколько технологий, а, скорее, система гарантий. При этом для каждой категории пользователей он решает свои задачи: для КИИ и госсектора – обеспечения устойчивости, для бизнеса – управляемости и ответственности, для граждан – защиты данных.
Профессиональное сообщество определяет шесть ключевых характеристик доверенного ИИ: это безопасность данных, устойчивость к атакам и злоупотреблениям, проверка достоверности результата, отсутствие дискриминации, этичность применения и управляемость человеком. Безусловно, эти характеристики не могут быть обеспечены в рамках только какой-то одной модели. Это больше про контур, в котором обрабатываются чистые данные, происходит контролируемое обучение ИИ, поддерживается логирование, разграничение доступа, тестирование на уязвимости, обязательная валидация решения ИИ человеком в тех случаях, когда цена ошибки высока – в таких направлениях, как медицина, право, кадры, финансы.
Директор по развитию ИИ «Группы Астра» Станислав Ежов
Фото: «Группа Астра»
— Насколько полноценно российское законодательство сегодня регулирует все аспекты применения искусственного интеллекта? Как наша страна в этом плане выглядит в сравнении с мировыми лидерами?
— Думаю, что в плане регулирования ИИ Россия точно не отстает от глобальных тенденций, при этом мы очень осознанно подходим к этому вопросу. Все понимают, что для ИИ требуется определить какие-то рамки, которые позволят, с одной стороны, не ограничить возможности развития технологии, но в то же время сделать это развитие более предсказуемым. Очень важно, что государство слышит участников рынка: например, я и другие эксперты «Группы Астра» принимали участие в рабочих группах, обменивались мнениями с коллегами о том, как лучше выстроить регулирование.
На текущий момент нормативно-правовая база вокруг ИИ складывается из нескольких уровней. На верхнем уровне находится Национальная стратегия развития искусственного интеллекта в Российской Федерации, принятая в 2019 году и обновленная в 2024-м. Далее мы опираемся на 149-ФЗ «Об информации, информационных технологиях и о защите информации», 152-ФЗ «О персональных данных» и другие документы, различные указы в рамках регулирования цифровой экономики.
Наконец, 18 марта 2026 года Минцифры представило проект федерального закона «Об основах государственного регулирования применения технологий искусственного интеллекта», который сейчас находится на публичном обсуждении, запланировано его вступление в силу 1 сентября 2027 года. Этот закон, разработанный с риск-ориентированным подходом, уже не носит общий характер, а отвечает на конкретные практические вопросы отрасли: например, подсвечивает необходимость маркировки контента, созданного искусственным интеллектом, вводит реестр доверенных моделей, утверждает права и ответственность участников рынка.
В этом же проекте определяются такие термины, как суверенная, национальная и доверенная модель ИИ. Под суверенной моделью подразумевается модель, которая разработана и эксплуатируется в России, обучалась только на российских данных. Таких моделей на текущий момент в стране единицы. Национальная модель – это модель, которая может использовать open source решения, в том числе и зарубежные, а также зарубежные данные, но все стадии разработки и обучения должны проходить на территории Российской Федерации. То есть это уже более гибкий подход. А под доверенной моделью понимается любая, в том числе суверенная или национальная, модель, прошедшая специальную сертификацию, а также, как и остальные, обрабатывающая данные исключительно на территории Российской Федерации.
— Получается, что доверенная модель ИИ уже не будет той глобальной всезнающей нейросетью, которая дает ответы на любые вопросы. Но с ее появлением у граждан ведь останется доступ к привычным инструментам?
— Безусловно. Риск-ориентированная модель означает, что чем сильнее ИИ влияет на жизнь человека и деятельность организаций, тем жестче становятся требования к ней. Ограничивать всё и для всех нет необходимости: нужно просто очень четко разделять контуры. Там, где хранится чувствительная информация и цена ошибки высока, должна работать локальная модель в защищенной среде – и ей нет никакой необходимости обучаться на данных всей Сети. А там, где риск не настолько высокий, пользователям можно работать и с привычными внешними сервисами ИИ, которые обладают достаточно широким пулом знаний.
Иными словами, безопасная нейросеть начинается не с выбора модели, а с проектирования контура. Если мы говорим о критической инфраструктуре, о госсегменте, о требованиях безопасности, там нет необходимости, чтобы модель знала всё. Но если мы говорим о бытовом применении, – конечно, доступ к публичным моделям сохранится.
— Как, по вашей оценке, сейчас развивается рынок искусственного интеллекта в России? Вы сказали, что с точки зрения методологии и регуляторики он не уступает западным странам, а как обстоят дела с технологиями?
— С точки зрения технологий мы тоже не отстаем. На российском рынке есть свои модели генеративного искусственного интеллекта, мультиагентные системы, растет количество успешных проектов встраивания ИИ-инструментов в ERP, CRM, системы электронного документооборота.
На это накладывается российская специфика: те самые жесткие требования к доверенности, к суверенному стеку, к допуску ИИ к госсегменту и КИИ. На мой взгляд, это делает рынок более зрелым по требованиям.
Пожалуй, самые перспективные направления сегодня – те, в которых можно точно рассчитать и максимально быстро получить возврат инвестиций: уже через 6-12 месяцев после внедрения. Это, например, интеллектуальная обработка данных и документов, цифровые сотрудники, предиктивная аналитика, компьютерное зрение. Здесь нам есть, чем гордиться даже на глобальном уровне.
Да, в России есть свои разработчики LLM наподобие OpenAI или DeepSeek. Но чтобы заявлять о суверенном искусственном интеллекте, необязательно создавать свой собственный Chat GPT. Повторюсь, суверенитет заключается в контроле над данными, обучением, исполнением и обновлением моделей в критических системах. Для этого можно взять открытую модель, дообучить ее на своих данных, развернуть в защищенной среде.
И как раз программно-аппаратные комплексы, которые предлагает, в том числе, «Группа Астра», решают именно такие задачи: аккумулируют инфраструктуру, безопасность и эксплуатацию ИИ-моделей в одном управляемом контуре. Это снижает стоимость владения решением, устраняет интеграционные риски и позволяет соответствовать требованиям регуляторов.
— Получается, что с помощью решения «Группы Астра» оператор, предоставляющий модель ИИ как сервис, или конкретная крупная компания может развернуть в своем защищенном периметре доверенную среду искусственного интеллекта? Как это происходит?
— Наш профильный ИИ-бизнес Астра ИИ развивает одноименный ПАК, который в одной поставке объединяет аппаратную часть на отказоустойчивых кластерах GPU-серверов, программную платформу «Астра ИИ», состоящую из MLOps/LLMOps-решений для создания и запуска мультиагентных систем в формате low-code, и цифровой офис – готовые ИИ-мультиагенты для решения типовых бизнес-задач.
Комплекс действительно полностью развертывается и функционирует в закрытом контуре, а значит, все данные и запросы остаются внутри инфраструктуры заказчика. Основные компоненты решения сертифицированы ФСТЭК. Программная часть базируется на операционной системе Astra Linux, которая подходит для работы с любыми данными, включая гостайну – то есть обеспечивает наивысший уровень доверия. С ее помощью мы реализуем сервисы для КИИ и госсектора, где максимально высоки требования к безопасности. Для других сегментов мы можем собирать более «легкие» версии.
Помимо операционной системы, «Астра ИИ» содержит другое инфраструктурное ПО – например, платформу контейнеризации «Боцман».
Таким образом, в ПАК от Астра ИИ воплощен экосистемный подход, комплексно закрывающий потребности разных категорий бизнес-заказчиков: ИТ-директор, CIO, CTO создает в компании управляемую и прогнозируемую инфраструктуру, соответствующую требованиям регуляторов, а сотрудники получают конкретные прикладные ИИ-решения.
— Какую «начинку» вы используете в аппаратной платформе «Астра ИИ»? Это ведь должна быть максимально производительная система?
— Поскольку искусственный интеллект – очень широкий термин, состав комплектующих ПАК мы подбираем в зависимости от прикладных задач заказчика. Допустим, многим необходима функция автоматизированного распознавания технической или любой другой документации, размещенной в электронных архивах. По сути, это цифровой сотрудник, который вместо специалиста анализирует огромное количество отсканированных документов разного качества, в том числе с рукописными правками, сделанными в разное время разными людьми. Для подобных целей мы разработали модели, которые работают на картах NVIDIA серии GeForce RTX, менее производительных и дорогих, чем популярные NVIDIA A100 и H100. Здесь они оказываются наиболее выгодными по соотношению цены и качества.
Если же заказчик планирует постепенно наращивать систему, мы можем предложить ему мультиагентную автоматизацию – когда вместо одной большой модели задействованы несколько специализированных агентов: например, один разбирает документы (ИИ-секретарь), второй формирует отчеты (ИИ BI-аналитик), третий обрабатывает заявки (ИИ-техподдержка), четвертый координирует работу остальных. В нашем решении «Астра ИИ» такие агенты уже существуют в готовом виде, поэтому проект внедрения интеллектуальной автоматизации может занимает не 12+ месяцев (как это обычно происходит при разработке «с нуля»), а всего 2-4 месяца.
— Какие еще есть сценарии применения ИИ в крупных компаниях?
— Мы ранее много говорили про LLM, потому что это главный тренд 2025 года, и все компании пытаются внедрять большие языковые модели в свои процессы. Но, помимо LLMOps, существует классическое машинное обучение, MLOps, которое в подавляющем большинстве случаев требует меньшего объема аппаратных ресурсов и более эффективно решает прикладные задачи. Например, в промышленности ML-инструменты можно применять для прогнозирования экологических отчислений предприятия в бюджет в зависимости от изменения климатических условий на горизонте нескольких лет, анализа качества трубопрокатных изделий и нефтепродуктов, поиска участков энергетической сети, где наблюдаются повышенные потери электроэнергии и других задач.
Таким образом, с помощью компонентов нашей «Астра ИИ» мы добиваемся синергии классического MLOps и LLMOps с возможностью эффективной утилизации дорогостоящих аппаратных ресурсов.
— Вероятно, заказчикам из госсектора и сферы КИИ законодательно предписано внедрять доверенный ИИ, а потенциальные издержки при этом уходят на второй план. Но коммерческие структуры внимательно смотрят на финансовую эффективность проекта. Насколько она достижима при внедрении технологий искусственного интеллекта?
— Безусловно, главным, трендсеттером глобальной ИИ-трансформации в России сегодня является государство. Уже приняты определенные решения, сформирован национальный штаб по искусственному интеллекту, участники которого прорабатывают программы внедрения ИИ в системе госуправления. Это дает серьезный рост спроса на данные технологии.
Перед коммерческими организациями не стоят такие требования, они самостоятельно принимают решения о внедрении ИИ, определяя необходимость инвестиций на конкретных бизнес-кейсах. ИИ дает возможность организациям автоматизировать те процессы, которые ранее было невозможно или менее эффективно автоматизировать другими способами. Поэтому компании, как правило, уже умеют рассчитывать эффективность таких проектов. Мы же как разработчики, в свою очередь, делаем всё, чтобы их инвестиции как можно скорее окупились.
