Документ описывает логику прохождения запроса через основные модули платформы и параллельные подсистемы наблюдаемости.
Запрос от пользовательского приложения проходит через единый контур контроля AiCC. На каждом этапе применяются политики безопасности; параллельно фиксируются события в журнале и экспортируются метрики.
┌─────────────────────────────────────────────────────────────────────────────┐
│ Пользовательские приложения │
│ (AI-ассистенты · корпоративные сервисы · API-клиенты) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ API Gateway (FastAPI) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Auth (python-jose / passlib) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Security Scanners (natasha / ONNX Runtime) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Anonymization │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ LLM Connector (httpx) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Внешний LLM / AI-сервис │
└─────────────────────────────────────────────────────────────────────────────┘
║ параллельно: журналирование (loguru/structlog) · метрики (prometheus) ║
| Шаг | Компонент | Что происходит |
|---|---|---|
| 1 | Пользовательские приложения | Клиент отправляет запрос к AiCC вместо прямого обращения к LLM. |
| 2 | API Gateway (FastAPI) | Единая точка входа, валидация и маршрутизация запроса. |
| 3 | Auth (python-jose / passlib) | Аутентификация (JWT, API-ключи, AD/LDAP) и авторизация (RBAC). |
| 4 | Security Scanners (natasha / ONNX Runtime) | Анализ текста на ПДн, секреты и срабатывание политик ИБ. |
| 5 | Anonymization | Маскирование чувствительных данных перед вызовом внешней модели. |
| 6 | LLM Connector (httpx) | Проксирование запроса к LLM, учёт токенов, контроль ответа. |
| 7 | Внешний LLM / AI-сервис | Генерация ответа; результат возвращается клиенту через AiCC. |
| Компонент | Назначение | Технологии |
|---|---|---|
| API Gateway | Единая точка входа, маршрутизация, валидация | FastAPI, uvicorn |
| Auth | Аутентификация и авторизация | python-jose, passlib, RBAC |
| Security Scanners | Анализ текста на чувствительные данные | natasha, ONNX Runtime |
| Anonymization | Маскирование ПДн перед вызовом LLM | модуль анонимизации AiCC |
| LLM Connector | Проксирование запросов к внешним моделям | httpx |
| Журналирование | Структурированные логи для аудита | loguru, structlog |
| Метрики | Экспорт показателей для мониторинга | prometheus-client |
См. также: Описание архитектуры и интеграций · Документация на сайте
По вопросам архитектуры: info@aicc-ai.ru