KamoCRM

KamoCRM + Meta (Llama)

SI সহায়ক ব্যাকএন্ড হিসেবে মেটা'র Llama উন্মুক্ত ওজনের মডেল

Meta (Llama) logo
মুক্তভাবে শুরু করোএকটি ডেমো বুক করুনমূল্য প্রদর্শন

সারসংক্ষেপ

KamoCRM-এর SI সহায়কের জন্য LLM প্রদানকারী হিসেবে মেটা'র Llama মডেল কনফিগার করুন। Llama উন্মুক্ত-ব্যাসার — আপনি হোস্ট করা প্রদানকারীদের (Together SI, Groq, Fireworks) মাধ্যমে অথবা সম্পূর্ণ তথ্য বিচ্ছিন্ন করার জন্য আপনার নিজস্ব অবকাঠামোতে স্বয়ং-হোস্ট করে রাউট করতে পারেন।

সাধারণ ব্যবহারের ক্ষেত্রে

তথ্য সার্বভৌমত্বের জন্য স্ব-হোস্ট করা SI

SI অনুমানের উপর সম্পূর্ণ নিয়ন্ত্রণের প্রয়োজনীয়তা থাকা প্রতিষ্ঠানগুলো তাদের নিজস্ব GPUs-এ Llama স্ব-হোস্ট করতে পারে, যেখানে শূন্য ডাটা এক্সারসেন্স থাকবে।

Together, Groq, অথবা Fireworks-এর মাধ্যমে Llama হোস্ট করা হয়েছে

স্বয়ংক্রিয়ভাবে হোস্ট করা সম্ভব না হলে Llama-এর জন্য হোস্ট করা প্রদানকারী ব্যবহার করুন।

Llama 3.1 উচ্চমানের উন্মুক্ত SI-র জন্য 405B

সবচেয়ে বড় Llama মডেলগুলি GPT-4 এবং Claude Sonnet এর সাথে প্রতিদ্বন্দ্বিতা করে অনেক বেঞ্চমার্কে যখন তারা খোলা ওজনে থাকে।

সেটআপ

  1. 1হোস্ট নির্বাচন করুন: self-host, Together SI, Groq, Fireworks, অথবা অন্য প্রদানকারী
  2. 2এন্ডপয়েন্ট URL এবং API পরিচিতি প্রাপ্ত করুন
  3. 3KamoCRM-এ বৈশিষ্ট্য → SI → সরবরাহকারী-এ যান
  4. 4প্রদানকারী হিসেবে Meta Llama নির্বাচন করুন
  5. 5শেষ বিন্দু এবং পরিচয় প্রদান করুন
  6. 6একটি নমুনা SI কোয়েরি দিয়ে পরীক্ষা করো

কোন তথ্য সুসংগত করা হবে

SI অনুরোধ/প্রতিক্রিয়া রাউটিং
টোকেন ব্যবহার (আপনার নির্বাচিত হোস্ট প্রদানকারীর মাধ্যমে)
মডেলের উপস্থিতি

Meta (Llama) সংক্রান্ত প্রশ্ন

GPT অথবা Claude এর পরিবর্তে কেন Llama নির্বাচন করা হবে?
উন্মুক্ত ওজনের অর্থ আপনি ডাটা সার্বভৌমত্বের জন্য স্ব-হোস্ট করতে পারেন বা হোস্ট করা প্রদানকারীদের মাধ্যমে রাউট করতে পারেন। অধিকাংশ কাজের জন্য গুণমান তুলনামূলক।
আমি কি আমার KamoCRM ডিবেলপমেন্টের জন্য Llama-কে স্বয়ংক্রিয়ভাবে হোস্ট করতে পারি?
হ্যাঁ। সম্পূর্ণ তথ্য বিচ্ছিন্ন করার জন্য আপনার স্ব-হোস্ট করা অনুমানের শেষ বিন্দুতে (vLLM, TGI, অথবা অনুরূপ) সমন্বয় নির্দেশ করুন।
কোন হোস্টিং প্রদানকারী সবচেয়ে ভাল?
প্রয়োজনের উপর নির্ভর করে: Groq দ্রুততার জন্য (দ্রুততম অনুমান), একসাথে মডেলের প্রস্থের জন্য, উৎপাদন-স্তরের বিশ্বাসযোগ্যতার জন্য ফায়ারওয়ার্কস, নিয়ন্ত্রণের জন্য স্ব-হোস্ট করা।

Meta (Llama) এর মত আরো একীভূতকরণ

OpenAIUse OpenAI models (GPT-4, GPT-4o, GPT-5) as the SI assistant backendAnthropicUse Claude models as the SI assistant backendGoogle GeminiUse Google Gemini models as the SI assistant backendMistralEuropean SI — Mistral models as the SI assistant backend

Meta (Llama)-কে KamoCRM-এর সাথে ফ্রি প্ল্যানে সংযুক্ত করুন। কোন ক্রেডিট কার্ডের প্রয়োজন নেই।

মুক্তভাবে শুরু করো

Meta (Llama)-এর সাথে সংযোগ স্থাপনের জন্য প্রস্তুত?

আপনার বিনামূল্যে KamoCRM অ্যাকাউন্ট আরম্ভ করুন এবং মিনিটের মধ্যে সংযোগ করুন।

মুক্তভাবে শুরু করোসমস্ত সমন্বয় দেখুন