Интеграция ИИ и RAG: архитектура и кейсы внедрения

Интеграция ИИ с корпоративными системами — это путь к точным ответам на внутренних данных и автоматизации процессов. Когда источники знаний динамичны и чувствительны, применяют RAG; когда задача типовая и замкнутая — достаточно чистого LLM. Ниже — архитектура, практики внедрения и примеры из IIoT и АСУ ТП.

Когда нужен RAG, а когда достаточно чистого LLM

RAG (Retrieval-Augmented Generation, по-русски часто «раг») добавляет к генерации поиск по вашим данным. Он нужен, если:

• Ответ зависит от актуальных документов: регламенты, спецификации, техкарты, тикеты, KB.
• Важно соблюсти права доступа: ответы должны отражать видимость пользователя.
• Нужна доказуемость: ссылки/цитаты из источников, трассировка.
• Доменная лексика и численные детали критичны (инженерия, фарма, финансы).

Чистый LLM достаточно, если:

• Задача шаблонная: суммаризация открытого текста, переписывание, идеация.
• Контент статичен и уже «вшит» в fine-tuned модель.
• Цена неточности невысока (черновики, креатив).

Архитектура RAG: индексирование, векторные БД, пайплайны

Ингест и нормализация

• Коннекторы: DMS, ECM, Git, облачные диски, датчики IIoT, SCADA/Historians.
• Извлечение текста: PDF/OCR, CAD-паспорта, логи АСУ ТП.
• Чанкинг: 300–2000 токенов, с overlap 10–20% под длинные зависимости.
• Обогащение: метаданные (владелец, версия, цех, оборудование, ACL).

Индексирование и хранение

• Векторные БД: Pinecone, Milvus, Weaviate, pgvector (Postgres).
• Индексы: HNSW/IVF/Flat; фильтрация по метаданным и ACL.
• Синхронизация: CDC/вебхуки; soft-delete с версионированием.

Пайплайн запроса в RAG-архитектуре

• Query rewriting: переформулировка запроса, добавление контекста пользователя.
• Ретривал: dense retrieval (embeddings), гибридный BM25+dense для узкого домена.
• Реранкинг: cross-encoder для топ-5–10 кандидатов.
• Контекстное окно: сборка подсказки с цитатами, дедупликация, токен-бюджет.
• Генерация: выбор моделей по задаче (объяснение, код, SQL, процедуры).
• Ответ: форматированный вывод, ссылки, сноски, JSON-структуры для API.

Управление знаниями

• Data lineage: источник/время индексации/хэш.
• Контроль версий и откаты (rollback) индекса.
• Кэширование: embedding-кэш, контент-кэш, ответы с TTL.

Интеграция с текущими системами и API

Интеграция системы — это согласование данных, API и прав доступа между ИИ-сервисом и источниками. Ключевые паттерны:

• API-шлюз: единая точка входа, rate-limit, аутентификация (OAuth2/OIDC, mTLS).
• События: Kafka/NATS для триггеров (новые документы, аварии на оборудовании).
• Функции-исполнители: агенты вызывают ERP/CMMS/SCADA API для действий (создать ЗН, выписать наряд, обновить мастер-данные).
• Форматы: JSON/Avro/Parquet; для IIoT — OPC UA, MQTT, Modbus через конвертеры.

Интеграция с IoT-устройствами и промышленным интернетом (IIoT):

• Слияние телеметрии (временные ряды) и текстовых знаний (мануалы, FMEA) в RAG.
• Онлайн-запросы к historian (InfluxDB, TimescaleDB) через инструктируемый SQL-агент.
• Связь с системой автоматизированного управления производством (MES/АСУ ТП): подсказки операторам с учетом режимов и лимитов, без прямого управления приводами.

Качество ответов: оценка и улучшение

Метрики и тесты

• Answer Faithfulness: соответствие источникам; автоматические проверяющие LLM.
• Context Precision/Recall: релевантность и полнота подтянутых кусочков.
• Latency/Cost per query: P50/P95 и стоимость на запрос.
• Human-in-the-loop: экспертные разметки, A/B-тесты промптов.

Тактики улучшения

• Промпт-инжиниринг: инструкции, формат ответов, цитаты, ограничения домена.
• Query decomposition: разбиение сложных задач на подзапросы (chain-of-thought скрытый).
• Перегенерация эмбеддингов доменными моделями.
• Реранкинг учебным набором (small cross-encoder).
• Feedback loop: кнопки «полезно/неполезно», ускоренное переобучение ретривера.

Безопасность, права доступа и аудит

• Контроль доступа: ABAC/RBAC, наследование прав из источников (ACL-прокси на этапе ретривала).
• Изоляция контекста: tenant-scoping при индексировании и запросах.
• Политики вывода: запрет PII/коммерческой тайны без соответствующих ролей; redaction/маскирование.
• Аудит: журнал запросов/ответов, использованных источников, вызовов внешних API, с неизменяемым хранилищем (WORM/SIEM).
• Безопасность моделей: ограничение инструментов агентов, списки разрешенных доменов, валидация действий.
• Соответствие: хранение логов и данных согласно локальным регуляциям (например, локализация в РФ, срок хранения).

Наблюдаемость: логи, метрики, алерты

• Логи: промпт/контекст/модель/трассировка ретривала; корреляция с user-id и версией индекса.
• Метрики: hit@k, nDCG, P50/P95 latency по стадиям (ретривал/реранкинг/генерация), доля пустых ответов, стоимость.
• Алерты: деградация точности, рост отказов API, всплеск 403 (ошибки прав), превышение бюджета токенов.
• Трассировка: OpenTelemetry спаны от клиента до БД, семплирование.
• Дэшборды: по продуктам/цехам/линиям, с разрезом по моделям и версиям пайплайна.

Кейсы внедрения: паттерны для офиса и производства

• Поиск по техдокам и регламентам: RAG с цитатами, фильтр по роли и подразделению.
• Поддержка диспетчера в промышленном интернете: анализ телеметрии IIoT + инструкции, рекомендации по параметрам пуска.
• Эксперт для АСУ ТП и MES: ответы на вопросы по рецептам/заказам, генерация безопасных чек-листов для оператора.
• Саппорт ИТ/OT: ответы по базе инцидентов и конфигурациям, создание тикетов в ITSM/CMMS.
• Контроль качества: суммаризация дефектов, сопоставление с FMEA/5Why, предложения корректирующих действий.
• Коммерция и закупки: извлечение условий из контрактов, сопоставление с политиками, алерты по отклонениям.

Быстрый пилот:

1. Выбрать 1–2 бизнес-сценария с измеримой метрикой (время ответа, снижение простоев).
2. Собрать золотой набор Q/A и журнал «правильных» источников.
3. Построить минимальный пайплайн: коннектор → векторная БД → ретривал → генерация → журнал.
4. Включить ABAC и базовые алерты; провести UAT с целевыми ролями.
5. Итерировать: промпты, реранкинг, доменные эмбеддинги; масштабировать интеграции.