你可以在私有主机设置本地 AI 模型,让所有 AI 处理都在本地服务器完成,不需联机至外部服务,从而提升数据安全性,并支持脱机环境。
请于 ragic.properties 中设置以下参数:
1. LOCAL_AI_URL=
必填,请填入本地 AI 模型服务的 API 地址,需符合 OpenAI 兼容格式,例如 http://localhost:11434/v1/。
2. LOCAL_AI_KEY=
选填,请填入 API 密钥,用于需要验证的 AI 服务;多数本地模型服务不需要设置
注意:设置 LOCAL_AI_URL 后,系统将一律使用本地 AI 模型,不会自动切换至云 AI 服务。
系统会依据模型 Prefix 自动识别模型类型,并支持以下常见类型:
| Prefix | 范例 |
|---|---|
| local/ | local/custom-model |
| qwen* | qwen2.5:32b |
| llama* | llama3.3:70b |
| mistral* | mistral:22b |
| phi* | phi3:14b |
| deepseek* | deepseek-v2:16b |