概要
Meta の Llama モデルを KamoCRM の SI アシスタントの LLM プロバイダとして設定します。Llama はオープンウェイトです。ホストされたプロバイダ (Together SI、Groq、Fireworks) を経由してルーティングするか、完全なデータ隔離のために自身のインフラストラクチャ上でセルフホストすることができます。
共通ユースケース
データ主権のための自己ホスティングSI
SI推論の完全なコントロールを必要とする組織は,データ出力ゼロで自身のGPU上でLlamaを自己ホストできる。
Together、Groq、または Fireworks を通して Llama をホスト
自己ホスティングが実用的でない場合は Llama に対してホストされたプロバイダを使用します。
Llama 3.1 405B は高品質のオープンSI
最大のLlamaモデルは,オープン重量を維持しながら,多くのベンチマークでGPT‐4とClaudeSonnetと競合する。
設定
- 1ホスティングを選択: self-host, Together SI, Groq, Fireworks または他のプロバイダ
- 2エンドポイント URL と API 認証情報を取得
- 3設定 → SI → KamoCRM のプロバイダへ移動
- 4プロバイダとして Meta Llama を選択
- 5エンドポイントとクレジット情報を入力
- 6例の SI クエリでテスト
どのデータを同期するか
SIリクエスト/応答ルーティング
トークン使用 (選択したホストプロバイダを通して)
モデル利用可能性
Meta (Llama) に関する質問
無料プランで Meta (Llama) を KamoCRM に接続します。クレジットカードは必要ありません。
スタートフリー