Запрос от пользовательского приложения проходит через единый контур контроля AiCC. На каждом этапе применяются политики безопасности; параллельно фиксируются события в журнале и экспортируются метрики.
┌─────────────────────────────────────────────────────────────────────────────┐
│ Пользовательские приложения │
│ (AI-ассистенты · корпоративные сервисы · API-клиенты) │
└──────────────────────────────────────┬──────────────────────────────────────┘
│
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ API Gateway (FastAPI) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Auth (python-jose / passlib) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Security Scanners (natasha / ONNX Runtime) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Anonymization │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ LLM Connector (httpx) │
└──────────────────────────────────────┬──────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────────────┐
│ Внешний LLM / AI-сервис │
└─────────────────────────────────────────────────────────────────────────────┘
║ параллельно: журналирование (loguru/structlog) · метрики (prometheus) ║
| Шаг | Компонент | Назначение |
|---|---|---|
| 1 | Пользовательские приложения | Клиент отправляет запрос к AiCC вместо прямого обращения к LLM. |
| 2 | API Gateway (FastAPI) | Единая точка входа, валидация и маршрутизация запроса. |
| 3 | Auth (python-jose / passlib) | Аутентификация (JWT, API-ключи, AD/LDAP) и авторизация (RBAC). |
| 4 | Security Scanners (natasha / ONNX Runtime) | Анализ текста на ПДн, секреты и срабатывание политик ИБ. |
| 5 | Anonymization | Маскирование чувствительных данных перед вызовом внешней модели. |
| 6 | LLM Connector (httpx) | Проксирование запроса к LLM, учёт токенов, контроль ответа. |
| 7 | Внешний LLM / AI-сервис | Генерация ответа; результат возвращается клиенту через AiCC. |
AiCC включает компоненты шлюза контроля, подсистемы аутентификации и авторизации, сканеров безопасности, анонимизации, LLM-коннектора, журналирования, метрик, административного интерфейса и интеграционных адаптеров.
По вопросам архитектуры: info@aicc-ai.ru · Документация на сайте