إن مساعد نظام المعلومات داخل KamoCRM يقرأ وثائق المستأجر قبل أن يجيب. إن القيام بذلك العمل يعني تشغيل السلسلة بأكملها بأنفسنا: خادم نموذج، نموذج مدمج، قاعدة بيانات متجهية، التعرف على الكلام، تركيب الكلام والترجمة الآلية، كل ذلك داخل مجموعتنا، كل ذلك على بيانات لا تغادرها أبداً.
| الإجراء | القيمة | المصدر | المقيسة |
|---|---|---|---|
| خدمات الاستدلال والكلام المستضافة ذاتيا | 6 (model server, embedding model, vector database, speech recognition, speech synthesis, machine translation) | kubectl get deployments,statefulsets --all-namespaces | |
| خدمات مخصصة للاسترجاع والناقل في المنصة | 3 (RAG service, vector service, embedding model) | kubectl get deployments -n kamo | |
| اللغات التي يخدمها برنامج الترجمة التحريرية المستضافة ذاتيا | 22 | messages/*.json in the marketing site repository | |
| معدل أخطاء التعرف البصري على الحروف | 0.180 CER | ocrservice evaluation run |
ما المبنى الذي علمنا
إن استدعاء نموذج مستضيف لبرنامج التواصل البيني يستغرق عملاً بعد الظهر ونحن نقوم به أيضاً، حيث يكون الإجابة الصحيحة. وتشغيل الاستدلال بنفسك هو تخصص مختلف، وهو ما يسأل عنه العملاء في اللحظة التي تكون فيها بياناتهم حساسة ــ الرعاية الصحية، المالية، القانونية، أي شيء تحت التزام إقامة البيانات. وعند تلك النقطة، تنتهي المحادثة بـ"نرسلها إلى طرف ثالث"، ولا يستطيع مواصلتها إلا الفريق الذي شغل البديل بالفعل.
الاسترجاع هو حيث تكسبها هذه الأنظمة أو تخسرها، وهو في الغالب غير جذاب. تجزئة الوثائق بحيث تكون المقاطع المسترجعة مستقلة بذاتها. البت في معنى الاستفسار حتى عندما يكتب المستخدم أربع كلمات. جعل الاسترجاع يحترم الإذن، بحيث لا يستطيع المساعد الإجابة من وثيقة لا يسمح للشخص الذي يطلبها بقراءتها - وهو أمر سهل الخطأ، ونوع الخطأ الذي ينتهي به الأمر في رسالة من المنظم بدلاً من متتبع الأخطاء. قاعدة معرفتنا لديها مستويات الرؤية التي يجب على طبقة الاسترجاع أن تحترمها تماما كما تفعل القراءات التي تواجه الإنسان، في مكانين منفصلين يجب أن يتفقا عليهما.
كما نقوم بتشغيل التعرف على الكلام والتوليف، والترجمة الآلية عبر اثنتين وعشرين لغة. وقد علمتنا أنابيب الترجمة أكثر ما تعلمنا، في الأغلب من خلال الفشل الصامت: فعملية تحديث جماعي بدون معاملة نجحت على الورق ولم تكتب شيئاً لإحدى وعشرين لغة، ولأن أي شيء لم يحدث، لم يلاحظ أحد ذلك لفترة طويلة. ويشكل الفشل الصامت الخطر المحدد لعملية الترجمة الآلية، ونحن الآن نستخدمه كأداة افتراضية.
بنيت بـ
- Ollama
- Qdrant
- Whisper
- Coqui TTS
- LibreTranslate
- Python
- Java
- Spring Boot
ماذا يؤهلنا هذا؟
أخبرنا ماذا تحاول أن تفعل
إن محادثة قصيرة تكفي عادة لمعرفة ما إذا كنا الشخص المناسب. وإذا لم نكن، فسوف نقول ذلك ونشير إليك إلى مكان أفضل.