Нарисуйте потоки, а не прямоугольник

На схеме отмечают устройства пользователей, точки загрузки, модель, поиск, инструменты, хранилища, журналы, резервные копии и административный доступ. Для каждого перехода указывают протокол, направление, личность и допустимые данные.

Отдельно показывают контур разработки и канал поставки обновлений. Иначе внешний доступ появится там, где его не было в демонстрационной схеме.

Выдавайте права каждому действию

Пользователь, служба агента и каждый инструмент получают отдельную личность и минимальные разрешения. Секреты хранятся вне подсказок и документов, регулярно меняются и не попадают в прикладные журналы.

Операции чтения отделяют от изменения. Для значимых действий нужны проверка параметров, подтверждение, защита от повторов и запись фактического результата.

Контролируйте цепочку поставки

Рекомендации OWASP по безопасности агентного ИИ относят зависимости, инструменты и внешние компоненты к поверхности риска, поэтому происхождение сборки проверяют так же внимательно, как поведение модели.

  • Разрешённые источники моделей, пакетов и образов.
  • Проверка происхождения, лицензий, состава и контрольных сумм.
  • Испытание в отдельной среде до переноса.
  • Версионирование модели, настроек, подсказок и индекса.
  • Возможность восстановить предыдущую совместимую сборку.

Спроектируйте жизненный цикл данных

Срок хранения задают для исходных файлов, извлечённого текста, индекса, диалогов, журналов и резервных копий отдельно. Удаление источника должно доходить до производных представлений.

Проверяйте восстановление, а не только наличие копии. Одновременно убедитесь, что резервирование не переносит защищаемые сведения за заявленную границу.

Частые вопросы

Является ли внутренний сервер закрытым контуром?

Не обязательно. У сервера могут быть внешние обновления, телеметрия, облачная авторизация или резервное копирование. Граница подтверждается схемой и сетевым контролем.

Нужно ли сохранять полные запросы пользователей?

Не всегда. Для расследования нужны события и результаты, но содержание может включать чувствительные данные. Состав и срок журналов определяют по цели и минимально необходимому объёму.