Первые ИИ-проекты нередко возникают в разных подразделениях независимо друг от друга: одна команда создаёт помощника для работы с обращениями, другая — ассистента для подготовки документов, третья экспериментирует с аналитикой данных. Такой подход позволяет быстро проверить гипотезы, но при тиражировании может приводить к повторяющимся расходам, несовместимым базам знаний и разным правилам доступа к информации.
«Количество запущенных ассистентов само по себе не является результатом. Руководителю важно видеть, какие модели и агенты работают в ведомстве, какие данные им доступны, сколько стоит каждая операция и кто отвечает за качество и риски. Для этого нужен единый контур управления ИИ, а не просто объединение уже проведённых пилотов», — отметил Сергей Карпович.
По словам эксперта, переход к такой модели требует изменений на пяти уровнях. Первый уровень — модели. Доступ к ним должен централизоваться через единую точку в защищённом контуре, где действуют общие правила, ограничения и механизмы контроля.
Второй уровень — знания. Разрозненные базы необходимо заменить общим семантическим слоем. Система должна находить сведения в проверенных нормативных документах, регламентах и ведомственных источниках, а сотрудник — видеть, на основании чего подготовлен ответ.
Третий уровень — цифровые сотрудники. Всех ИИ-агентов следует включить в общий реестр. Для каждого из них необходимо зафиксировать владельца, назначение, версию, доступные операции и жизненный цикл.
Четвёртый уровень — экономика. Наряду с бюджетом проекта необходимо измерять стоимость конкретной операции — обработки обращения, документа или заявки. Это позволяет сравнивать эффект от внедрения с исходными показателями процесса.
Пятый уровень — риски. Контроль нужно выстраивать не только после выполнения действия, но и до него: через ограничения доступа, обязательные согласования, журналирование операций и возможность перехода к ручному режиму.
Значение такого контроля возрастает по мере того, как ИИ переходит от подготовки ответов к выполнению действий в государственных информационных системах.
«Ошибка при подготовке справки и ошибка при выполнении операции — это разные уровни риска и ответственности. Поэтому границы полномочий ИИ нужно определять заранее. Изменение критичной записи или отправка юридически значимого документа должны требовать подтверждения человеком, а архитектура — предусматривать остановку системы и возврат к ручному процессу», — подчеркнул Сергей Карпович.
Для российского госсектора, по мнению эксперта, принципиально важно предусматривать размещение моделей, данных и исполнения агентов в защищённом контуре уже при выборе архитектуры и подрядчиков, а не переносить эти вопросы на этап промышленного запуска.
Аналогичные принципы управляемости закладываются и в зарубежные модели. Великобритания включает в число государственных принципов применения ИИ понимание ограничений технологии, управление жизненным циклом системы и осмысленный человеческий контроль. Сингапур предлагает ограничивать автономию агентов, предоставлять им минимально необходимые права и расширять полномочия постепенно — после тестирования и с постоянным мониторингом.
Сергей Карпович рекомендует начинать переход к целевой модели с одного процесса, у которого есть ответственный владелец, измеримый результат и ограниченный уровень риска. За 13 недель можно пройти путь от анализа процесса и фиксации исходных показателей до создания и проверки ассистента, его ограниченной эксплуатации и оценки результатов. Этот срок является ориентиром для одного процесса: фактическая продолжительность зависит от готовности данных, количества интеграций и требований безопасности.
«Запуск ассистента не завершает работу по управлению ИИ. Качество, стоимость операций и риски необходимо оценивать постоянно. Если первый сценарий подтвердил эффект, следующие можно масштабировать на общей платформе — с уже созданными моделями, источниками знаний, интеграциями и правилами контроля», — заключил Сергей Карпович.