KamoCRM के अंदर का एसआई सहायक जवाब देने से पहले किराएदार के अपने दस्तावेज़ों को पढ़ता है. इस काम को करने का मतलब है कि हम पूरी श्रृंखला को स्वयं चला रहे हैं: एक मॉडल सर्वर, एक एम्बेडिंग मॉडल, एक सदिश डाटाबेस, भाषण पहचान, भाषण संश्लेषण और मशीन अनुवाद, सभी हमारे क्लस्टर के भीतर, सभी डेटा पर जो इसे कभी नहीं छोड़ता.
| माप | मूल्य | स्रोत | मापा |
|---|---|---|---|
| स्व- होस्ट इंफ्रेक्शन तथा स्पीच सेवाएँName | 6 (model server, embedding model, vector database, speech recognition, speech synthesis, machine translation) | kubectl get deployments,statefulsets --all-namespaces | |
| प्लेटफ़ॉर्म में समर्पित पुनर्प्राप्ति तथा सदिश सेवाएँ | 3 (RAG service, vector service, embedding model) | kubectl get deployments -n kamo | |
| स्व- होस्ट अनुवाद पाइपलाइन द्वारा सेवा की जाने वाली भाषाएँ | 22 | messages/*.json in the marketing site repository | |
| ऑप्टिकल अक्षर पहचान त्रुटि दर | 0.180 CER | ocrservice evaluation run |
क्या इमारत यह हमें सिखाया
एक होस्ट मॉडल API को कॉल करना एक दोपहर का काम है और हम इसे भी करते हैं, जहां यह सही जवाब है। निष्कर्षण स्वयं चलाना एक अलग अनुशासन है, और यह एक ग्राहक है जो उस क्षण के बारे में पूछता है जब उनका डेटा संवेदनशील है - स्वास्थ्य देखभाल, वित्त, कानूनी, डेटा-निवास के दायित्व के तहत कुछ भी। उस बिंदु पर 'हम इसे तीसरे पक्ष को भेजते हैं' बातचीत समाप्त हो जाती है, और केवल एक टीम जो वास्तव में वैकल्पिक को संचालित करती है वह इसे जारी रख सकती है।
पुनर्प्राप्ति वहाँ है जहाँ ये प्रणालियाँ जीती या हारती हैं, और यह ज्यादातर अप्रत्याशित है. दस्तावेजों को टुकड़ों में बांटना ताकि एक पुनर्प्राप्त खण्ड स्वयं-संबद्ध हो. यह तय करना कि एक क्वेरी का क्या मतलब है जब उपयोक्ता ने चार शब्द टाइप किए हैं. पुनर्प्राप्ति को अनुमतियों का सम्मान करना, ताकि सहायक एक दस्तावेज़ से जवाब नहीं दे सकता है जिसे पूछने वाला व्यक्ति पढ़ने की अनुमति नहीं है - जो गलत होने के लिए आसान है, और गलती की तरह जो बग ट्रैकर के बजाय नियामक के पत्र में समाप्त होती है. इस प्रकार के यंत्रों में दो प्रकार के यंत्र होते हैं, जिनमें से एक यंत्र का द्रव्यमान ज्ञात होता है और दूसरा यंत्र का द्रव्यमान ज्ञात करने के लिए दो अलग-अलग यंत्रों की आवश्यकता होती है।
हम वाणी पहचान और संश्लेषण, और मशीन अनुवाद भी चलाते हैं, बीस भाषाओं में. अनुवाद पाइपलाइन ने हमें सबसे अधिक सिखाया, ज्यादातर चुपके से असफल होने से: एक लेनदेन के बिना एक बड़े अद्यतन का काम कागज पर सफल रहा और बीस भाषाओं के लिए कुछ भी नहीं लिखा, और क्योंकि कुछ भी नहीं फेंका, लंबे समय तक किसी ने ध्यान नहीं दिया. चुपके से असफलता बैच एसआई कार्य का परिभाषित खतरा है, और हम अब इसके लिए डिफ़ॉल्ट रूप से उपकरण हैं.
के साथ बनाया गया
- Ollama
- Qdrant
- Whisper
- Coqui TTS
- LibreTranslate
- Python
- Java
- Spring Boot
क्या यह हमारे लिए योग्य है
हमें बताएं कि आप क्या करने की कोशिश कर रहे हैं
एक छोटी बातचीत आमतौर पर यह बताने के लिए पर्याप्त है कि क्या हम सही लोग हैं. यदि हम नहीं हैं, तो हम ऐसा कहेंगे और आपको कहीं बेहतर जगह दिखाएंगे.