Как выбрать AI‑модель в INWISE AI и настроить температуру, длину ответа, историю контекста и серверный API‑ключ. Ниже — рабочие рекомендации, которые помогут настроить функцию осознанно и проверить результат до публикации.
Как выбрать модель
Доступные конфигурации могут отличаться в зависимости от проекта. Практический выбор строится между качеством сложного рассуждения, скоростью ответа и стоимостью обработки. Для частых коротких вопросов обычно подходит быстрая модель; для сложных регламентов и составных задач — более мощная.
Сравнивайте модели на одинаковом наборе реальных вопросов. Маркетинговое название само по себе не показывает качество именно на ваших материалах.
Температура и предсказуемость
Температура влияет на вариативность формулировок. Для базы знаний обычно выбирают невысокое значение: ответы становятся стабильнее и ближе к подтверждённым материалам. Более высокая температура полезна для творческих задач, но редко нужна справочному помощнику.
Стартовая логика: сначала добейтесь точности на низкой вариативности, затем повышайте её только если ответы звучат слишком шаблонно.
Длина ответа и история контекста
Максимальное число токенов ограничивает объём одного ответа. Слишком маленький лимит обрежет инструкции, слишком большой — сделает ответы многословными и увеличит расход. История сообщений определяет, сколько предыдущих реплик учитывается в продолжении диалога.
| Параметр | Если уменьшить | Если увеличить |
|---|---|---|
| Максимум токенов | Короче и дешевле, возможны обрывы | Полнее, но выше задержка и стоимость |
| История сообщений | Меньше контекста | Лучше продолжение длинного диалога, больше контекст |
Безопасность API‑ключа
Ключ модели хранится на серверной стороне и не должен отправляться в браузер клиента. Поле в кабинете используется для защищённой конфигурации. Не размещайте ключ в установочном фрагменте, базе знаний, инструкции или публичном репозитории.
При смене ключа проверьте тестовый вопрос, журнал ошибок и только после этого переводите конфигурацию в рабочий режим.
Частые вопросы
Какую температуру выбрать?
Для фактологического помощника обычно начинают с низкой температуры и корректируют её после тестирования на реальных вопросах.
Можно ли показать API‑ключ в браузере?
Нет. Ключ и серверные секреты должны оставаться на сервере и не попадать в клиентский код.
Почему ответ обрывается?
Одна из возможных причин — слишком низкий лимит токенов. Также проверьте инструкцию: она может требовать слишком объёмный формат.