Работа с политиками LLM

Политика LLM — это набор правил, по которым Staffcop выбирает события и поручает языковой модели выделить из их текста нужные данные. Каждая политика выделяет один тип метаданных и записывает результат в отдельное поле события. Поэтому набор включенных политик определяет, какие поля с результатами анализа появятся в событиях и будут доступны через чат.

Базовые политики

В Staffcop есть четыре готовые политики: Ключевые темы, Тональность, Паттерны поведения, Коммуникативные намерения.

Тип

Что описывает

Примеры

Ключевые темы

О чем сообщение

Переговоры, цена, договор

Тональность

Эмоциональная окраска

Позитивная, нейтральная, агрессивная

Паттерны поведения

Типовые и аномальные действия

Сообщение о проблеме, агрессивная речь,
планирование действий

Коммуникативные намерения

Цель автора

Выражение недовольства, информирование о планах,
выражение ожидания

Если базового набора не хватает, создайте собственную политику — см. раздел Создание политики.

Включение политики

Чтобы включить политику, перейдите в Политики → Политики LLM и приведите ползунок рядом с нужной политикой в активное состояние.

../_images/llm_policies_setup_1.png

После включения Staffcop начинает передавать на анализ подходящие события. Обработка занимает время, поэтому результаты появляются не сразу.

Результаты анализа отображаются в карточке события. Для каждой включенной политики в событии есть поле с ее названием.

../_images/llm_policies_setup.png

Если поля LLM не отображаются, проверьте:

  • в конфигурации Staffcop включен компонент LLM;

  • политика LLM включена;

  • событие подходит под фильтр политики и дату начала обработки;

  • LLM-сервер доступен.

Создание политики

Если базового набора не хватает, создайте собственную политику. Например, чтобы выявлять отраслевые риски или определять коммерческую тайну.

Ниже описано, как создать политику Коммерческая тайна. Она выявляет сообщения, в которых сотрудник может разглашать конфиденциальную информацию компании.

Чтобы создать политику:

  1. В конструкторе нажмите кнопку + Создать и выберите Политика LLM.

../_images/llm_policies_4.png

  1. В модальном окне на вкладке Свойства заполните поля:

    • Название — «Коммерческая тайна».

    • Описание — «Выявляет сообщения с возможным разглашением конфиденциальной информации». Поле необязательное.

  2. Поставьте галочку Политика активна. Без нее политика не будет обрабатывать события.

  3. В поле Модель выберите модель Ollama или, если развернута, вашу модель.

  4. В поле Системный промпт опишите общие правила обработки: роль модели, критерии и порядок определения значений. Например:

    Ты — аналитик по информационной безопасности. Твоя задача — определять, содержит ли текст сведения, которые могут быть коммерческой тайной компании.
К коммерческой тайне относятся: условия и цены договоров, данные о клиентах и контрагентах, финансовые показатели, внутренние планы и стратегии,
технические разработки и исходный код, учетные данные для доступа к системам. Если в тексте нет таких сведений, считай, что коммерческой тайны нет.
Отвечай одним из значений: «Есть признаки», «Нет признаков».

  5. В поле Промпт добавьте задание и переменную {{text_data}}. Указывать значения внутри фигурных скобок не нужно. При обработке каждого события Staffcop автоматически заменит {{text_data}} текстом этого события и отправит готовый промпт модели. Например, вы вводите в поле Промпт:

    Определи, содержит ли следующий текст сведения, которые могут быть коммерческой тайной:

{{text_data}}

    Для сообщения «Отправил клиенту наши цены на следующий квартал» модель получит:

    Определи, содержит ли следующий текст сведения, которые могут быть коммерческой тайной:

Отправил клиенту наши цены на следующий квартал
../_images/llm_policies_2.png

  1. Задайте параметры обработки:

    Параметр

    Назначение

    Дата

    Дата, с которой политика начинает обрабатывать события.
    Фильтр не позволяет ограничить события по дате, поэтому используйте это поле,
    чтобы не обрабатывать события за весь период.
    Например, укажите вчерашний день, чтобы обработать только новые события

    Сохранять размышления

    Сохраняет рассуждения модели.
    Внимание: чтобы настройка сработала, в Администрировании → LLM
    у модели LLM должна стоять галочка Размышления.
    Позволяет понять, почему модель выбрала то или иное значение.
    Замедляет обработку, поэтому включайте только для отладки

    Аргументировать результаты

    Модель объясняет, почему выбрала значения.
    Замедляет обработку, поэтому включайте только для отладки

  2. Перейдите на вкладку Фильтр и задайте условия, по которым политика выбирает события. Например, оставьте сообщения из почты и мессенджеров для сотрудников, которые работают с договорами.

    Важно

    Обращение к LLM — ресурсоемкая операция. Сужайте фильтр, чтобы политика обрабатывала только важные события.

  3. Нажмите Сохранить.

После сохранения Staffcop начнет передавать подходящие события на LLM-сервер. Дождитесь обработки: результаты появятся в полях события так же, как для базовых политик.

Если результаты выглядят неожиданно

Включите Сохранять размышления и Аргументировать результаты на время отладки. Так вы увидите, почему модель выбрала то или иное значение, а размышления можно посмотреть в карточке события рядом с результатом. После отладки выключите оба параметра, чтобы не замедлять обработку.

Последнее обновление: 12.11.26