SI et systèmes de récupération

Des assistants qui lisent vos documents et savent ce qu’ils ne sont pas autorisés à lire

Il faut un après-midi pour connecter un modèle de langage à une API, pour le faire répondre correctement à partir de votre propre matériel, refuser quand il ne sait pas, et ne jamais révéler un document que la personne qui demande n’a pas le droit de voir — c’est le projet. La qualité de la récupération décide presque tout et c’est un travail peu glamour : comment les documents sont divisés, ce que signifie réellement une question de quatre mots, comment les résultats sont classés, et comment les permissions sont appliquées au moment de la récupération plutôt que d’être filtrées après.

Ce que le travail implique

• Ingestion et fragmentation de documents conçues de sorte qu'un passage récupéré ait encore un sens seul
• Intégration et recherche vectorielle, auto-hébergement où les données ne peuvent pas quitter
• Récupération en fonction des autorisations — le contrôle d'accès se produit avant que le modèle ne voie le texte, et non après
• Évaluation par rapport à un ensemble de questions réelles, de sorte qu'un changement peut être montré pour aider plutôt que supposé
• Refus gracieux, car une mauvaise réponse sûre est pire que pas de réponse dans tous les contextes d’affaires
• Budgets de coûts et de latence, y compris l’option d’un modèle auto-hébergé plus petit lorsque cela suffit

Pourquoi nous sommes crédibles à ce niveau

Nous gérons toute la chaîne nous-mêmes : un serveur de modèles, un modèle d’intégration, une base de données vectorielle, la reconnaissance et la synthèse vocale, et la traduction automatique dans vingt-deux langues — sur notre propre cluster, pour les locataires dont les données ne sont pas autorisées à le quitter.

Ce qui déplace le prix

Nous vous proposons un devis après la découverte et le numéro est fixé avant que tout ne commence.Ce sont les choses qui le déplacent, de sorte que vous pouvez voir à peu près où se situe votre projet avant de nous parler.

• La taille du corpus et, bien plus important, le désordre des documents
• Si l'inférence doit être auto-hébergée pour des raisons de résidence des données
• La granularité du modèle d’autorisations – l’accès par document est un projet différent de l’accès par locataire
• Si vous avez besoin d’une infrastructure d’évaluation, ce que vous faites si les réponses sont importantes

Questions qui nous sont posées

Dites-nous ce que vous essayez de faire

Une courte conversation est généralement suffisante pour savoir si nous sommes les bonnes personnes, si nous ne le sommes pas, nous le dirons et vous indiquerons quelque part mieux.