Огляд
Налаштувати Llama моделі Meta як постачальника LLM для асистента SI KamoCRM. Llama є відкритим — ви можете маршрутизувати через хостовані постачальники (Together SI, Groq, Fireworks) або самостійно хостувати на вашій власній інфраструктурі для повної ізоляції даних.
Поширені випадки використання
Самообслуговування SI для суверенітету даних
Організації, яким потрібен повний контроль над виводами SI, можуть самостійно розмістити Llama на своїх власних GPU з нульовим виходом даних.
Власник Llama через Together, Groq або Fireworks
Використовувати хостовані провайдери для Llama, якщо самостійний хостинг непрактичний.
Llama 3. 1 405B для високоякісного відкритого SI
Найбільші Llama моделі конкурують з GPT-4 і Claude Sonnet на багатьох еталонах, залишаючись відкритими.
Налаштування
- 1Виберіть хостинг: self-host, Together SI, Groq, Fireworks або інший провайдер
- 2Отримати адресу URL кінцевої точки та улікові дані API
- 3Перейти до Параметри → SI → Постачальники у KamoCRM
- 4Виберіть Meta Llama як постачальника
- 5Введіть кінцеву точку і реквізити
- 6Перевірити за допомогою прикладного запиту SI
Які дані синхронізуються
Питання щодо Meta (Llama)
З' єднайте Meta (Llama) з KamoCRM за безкоштовним планом. Кредитна карта не потрібна.
Почати вільноГотові з' єднатися з Meta (Llama)?
Запустити безкоштовний обліковий запис KamoCRM і з'єднатися за кілька хвилин.
