НАЧАЛО >> Документация модуля AI >> Настройка локальной модели AI📄 Скачать в DOCX
Локальная модель в модуле AI - это provider/model, которые не требуют передачи данных во внешнее облако. Обычно такой provider работает через OpenAI-compatible HTTP API на том же сервере или в защищенной локальной сети.
В примерах ниже используются подписи полей так, как они видны в АРМ Администратор. Технические имена вроде providerId, modelId, policy и requiredCapabilities показаны только в JSON-примерах диагностики.
Для локальной модели всегда настраиваются три уровня:
AI включается локальный контур и задаются лимиты.Для закрытого локального контура поле "Разрешить внешние модели" должно оставаться выключенным. У provider и модели должны быть выключены признаки "Внешний provider" / "Внешняя модель" и включены признаки "Локальный provider" / "Локальная модель" и "Доступен offline".
Откройте настройки модуля AI в АРМ Администратор.
| Поле в АРМ Администратор | Значение для локального контура |
|---|---|
| Включить модуль AI | Включить перед пользовательским запуском; для диагностики можно оставить выключенным и использовать флаг "диагностический режим" |
| Разрешить внешние модели | Выключено |
| Разрешить локальные модели | Включено |
| Класс данных по умолчанию | Обычно internal |
| Требовать явное подтверждение внешней передачи | Включено |
| OpenAI-compatible endpoint локальной среды | Endpoint локального runtime, например http://127.0.0.1:11434/v1 |
Если локальный сценарий создает AI-черновики, перед пользовательским запуском отдельно проверьте поля "Разрешить инструменты изменения данных", права на целевую БД и review-процесс.
Общие значения для локального OpenAI-compatible provider:
| Поле в АРМ Администратор | Значение |
|---|---|
| Идентификатор | Стабильный ID provider, например ollama-local |
| Название | Понятное название provider |
| Тип | OpenAI-compatible |
| Включен | Включено |
| Endpoint | URL локального runtime |
| Внешний provider | Выключено |
| Локальный provider | Включено |
| Доступен offline | Включено |
| Тип стоимости | Внутренний или Бесплатный |
| Уровень стоимости | 0 |
В группе "Возможности" для обычного текстового запроса достаточно включить "Текст" и "JSON". Остальные возможности включайте только после отдельной проверки runtime и выбранной модели.
Endpoint должен указывать на API без раскрытия секретов в URL. Если runtime расположен не на этом же сервере, убедитесь, что он остается во внутреннем защищенном контуре.
Общие значения для локальной модели:
| Поле в АРМ Администратор | Значение |
|---|---|
| Идентификатор поставщика | Идентификатор локального provider |
| ID модели | Точный ID модели в runtime |
| Название | Понятное название модели |
| Включена | Включено |
| Внешняя модель | Выключено |
| Локальная модель | Включено |
| Доступна offline | Включено |
| Тип стоимости | Внутренняя или Бесплатная |
| Уровень стоимости | 0 |
| Контекст | Размер контекста модели, если известен |
В группе "Возможности модели" включите "Текст" и, если модель стабильно возвращает структурированные ответы, "JSON". Если у модели есть собственные требования к RAM, VRAM или GPU, задайте их в группе "Требования к локальному запуску"; они уточняют требования provider.
Этот пример подходит для минимальной локальной проверки на небольшой модели. В Ollama используется tag qwen3:0.6b.
| Поле в АРМ Администратор | Значение |
|---|---|
| Включить модуль AI | На время первичной проверки можно выключить |
| Разрешить внешние модели | Выключено |
| Разрешить локальные модели | Включено |
| Класс данных по умолчанию | internal |
| OpenAI-compatible endpoint локальной среды | http://127.0.0.1:11434/v1 |
| Поле в АРМ Администратор | Значение |
|---|---|
| Идентификатор | ollama-local |
| Название | Ollama local runtime |
| Тип | OpenAI-compatible |
| Включен | Включено |
| Endpoint | http://127.0.0.1:11434/v1 |
| Внешний provider | Выключено |
| Локальный provider | Включено |
| Доступен offline | Включено |
| Тип стоимости | Внутренний |
| Уровень стоимости | 0 |
В группе "Возможности" включите "Текст" и "JSON". В Runtime-параметрах можно добавить строки:
| Параметр | Значение | Тип |
|---|---|---|
kind |
ollama |
Строка |
modelsEndpoint |
/models |
Строка |
| Поле в АРМ Администратор | Значение |
|---|---|
| Идентификатор поставщика | ollama-local |
| ID модели | qwen3:0.6b |
| Название | Qwen 3 0.6B local |
| Включена | Включено |
| Внешняя модель | Выключено |
| Локальная модель | Включено |
| Доступна offline | Включено |
| Тип стоимости | Внутренняя |
| Уровень стоимости | 0 |
| Качество | 2 |
| Контекст | 40000 |
В группе "Возможности модели" включите "Текст" и "JSON". Если JSON-ответы на конкретной установке нестабильны, выключите "JSON" и не используйте эту модель в сценариях, где нужен структурированный черновик.
Проверка маршрутизации на AI/Diagnostics:
{
"policy": "scenario_fixed",
"providerId": "ollama-local",
"modelId": "qwen3:0.6b",
"requiredCapabilities": ["text", "json"]
}Если нужно быстро проверить только endpoint Ollama, можно не создавать отдельную запись модели. Тогда маршрутизатор построит техническую модель с ID provider.
| Где настроить | Поле в АРМ Администратор | Значение |
|---|---|---|
| Поставщики AI | Идентификатор | ollama-local |
| Поставщики AI | Тип | OpenAI-compatible |
| Поставщики AI | Endpoint | http://127.0.0.1:11434/v1 |
| Поставщики AI | Включен | Включено |
| Поставщики AI | Внешний provider | Выключено |
| Поставщики AI | Локальный provider | Включено |
| Поставщики AI | Доступен offline | Включено |
В этом варианте ResolveModel будет показывать modelId=ollama-local. Для продуктивной эксплуатации лучше создать явную запись в "Модели AI", иначе в диагностике не видно реальный ID модели runtime.
Если OpenAI-compatible runtime работает на отдельном внутреннем сервере, настройка отличается только endpoint и названием provider.
| Где настроить | Поле в АРМ Администратор | Значение |
|---|---|---|
| Настройки AI | OpenAI-compatible endpoint локальной среды | http://ai-runtime.local:8080/v1 |
| Поставщики AI | Идентификатор | local-runtime |
| Поставщики AI | Название | Local protected runtime |
| Поставщики AI | Endpoint | http://ai-runtime.local:8080/v1 |
| Поставщики AI | Внешний provider | Выключено |
| Поставщики AI | Локальный provider | Включено |
| Модели AI | Идентификатор поставщика | local-runtime |
| Модели AI | ID модели | Фактический ID модели в runtime |
Такой provider можно считать локальным только если данные остаются внутри контролируемой инфраструктуры. Если runtime находится у внешнего поставщика, это уже внешний provider, и нужна отдельная политика внешней передачи данных.
После настройки:
AI/Diagnostics.ResolveModel с policy=offline_only или scenario_fixed, providerId и modelId.AI, группа "Страница AI/Ask", задайте нужную политику, диагностический режим, dry-run и "Сетевой вызов по умолчанию".AI/Ask.Если модель должна использоваться пользователями без диагностического режима, включите "Включить модуль AI" после успешной проверки.