개요
Meta의 Llama 모델을 KamoCRM의 SI 조수에 대한 LLM 제공 업체로 구성하십시오. Llama은 개방형입니다. 호스팅 제공 업체 (Together SI, Groq, Fireworks)를 통해 라우팅하거나 완전한 데이터 격리를 위해 자체 인프라에서 자체 호스팅 할 수 있습니다.
일반적인 사용 사례
데이터 주권을 위한 셀프 호스팅 SI
SI 추론에 대한 완전한 제어가 필요한 조직은 데이터 출력이 없는 자체 GPU에서 Llama을 자체 호스팅할 수 있습니다.
Together, Groq 또는 Fireworks를 통해 호스팅된 Llama
자체 호스팅이 실용적이지 않다면 Llama에 대해 호스팅 공급자를 사용하십시오.
Llama 3.1 고품질 오픈 SI를 위한 405B
가장 큰 Llama 모델은 GPT-4와 Claude Sonnet과 경쟁하며 여러 벤치마크에서 오픈 웨이트로 남아 있습니다.
설정
- 1호스팅 선택: 셀프 호스팅, Together SI, Groq, Fireworks 또는 다른 제공업체
- 2엔드포인트 URL 및 API 자격 증명 가져오기
- 3설정 → SI → KamoCRM의 제공자로 이동
- 4제공업체로 Meta Llama 선택
- 5엔드포인트 및 자격 증명 입력
- 6샘플 SI 쿼리로 테스트
동기화되는 데이터
SI 요청/응답 라우팅
토큰 사용 (선택한 호스팅 제공업체를 통해)
모델 가용성
Meta (Llama)에 대한 질문
무료 요금제로 Meta (Llama)을 KamoCRM에 연결하세요. 신용카드가 필요하지 않습니다.
무료로 시작