概 况
将 Meta 的 Llama 模型配置为 KamoCRM 的 SI 助手的 LLM 提供商。 Llama 是开放重量 — 您可以通过托管提供商(Together SI、Groq、Fireworks)进行路由,或在自己的基础设施上自主托管,以实现完全的数据隔离。
常见用例
实现数据主权的自托管 SI
需要完全控制 SI 推理的组织可以在自己的 GPU 上自主托管 Llama , 且无需数据输出。
通过 Together、Groq 或 Fireworks 托管的 Llama
如果自助托管不切实际,请使用托管提供商 Llama。
Llama 3.1 405B 用于高质量开放式 SI
最大的 Llama 型号在许多基准上与 GPT-4 和 Claude Sonnet 竞争,同时仍然保持开放重量。
设置
- 1选择托管:自助托管、Together SI、Groq 、 Fireworks 或其他提供商
- 2获取端点 URL 和 API 凭据
- 3导航到设置 → SI → KamoCRM 中的提供商
- 4选择 Meta Llama 作为供应商
- 5输入端点和凭据
- 6使用示例 SI 查询进行测试
同步哪些数据
SI请求/响应路由
令牌使用(通过您选择的托管服务提供商)
模型可用性
关于 Meta (Llama) 的问题
在免费套餐中将 Meta (Llama) 连接到 KamoCRM。 无需信用卡。
开始免费