将语言模型连接到API需要一个下午的时间,让它从你自己的材料中正确回答,当它不知道时拒绝,并且永远不会显示提问者无权看到的文档 — — 这就是这个项目。 检索质量决定了几乎一切,这是一项不起眼的工作:如何将文档分割,四个字的问题实际上意味着什么,结果如何排序,以及如何在检索时强制执行权限,而不是希望在检索后过滤。
工作内容
- 文档吸收和分块设计,以便检索的段落仍然有意义
- 嵌入和矢量搜索,自托管,数据无法离开
- 权限感知检索 — 访问检查发生在模型看到文本之前,而不是之后
- 对照一组真实的问题进行评估,这样一项改变就可以被证明是有帮助的,而不是被假定是有帮助的
- 优雅的拒绝,因为一个自信的错误答案比没有答案在每一个商业上下文更糟糕
- 成本和延迟预算，包括在足够的情况下选择较小的自托管模式
为什么我们是可信的
我们自己运行整个链条:一个模型服务器、一个嵌入式模型、一个矢量数据库、语音识别和合成,以及跨二十二种语言的机器翻译 — — 在我们自己的集群上,为那些数据不允许离开的租户运行。
什么移动价格
我们在发现后报价,在任何事情开始之前,数字是固定的。 这些是推动它的东西,所以您可以在与我们交谈之前大致了解您的项目所在位置。
- 文档大小,更重要的是,文档的混乱程度
- 出于数据驻留原因,推理是否必须自托管
- 权限模型的细微差别 — 按文档访问与按租户访问是不同的项目
- 您是否需要评估基础设施,如果答案很重要,您就需要这样做
证明我们已经做到了这一点
Inference we run ourselvesModels, embeddings, vector search, speech and translation — on our own hardwareDocuments, signatures and the paperwork layerCollaborative editing, e-signature and OCR, built rather than boughtA distributed data layer, chosen deliberatelyDistributed SQL, wide-column, cache, object storage and vectors — each for a reason
我们常见的问题
其他 应用开发 工作
Custom web applicationsThe system your business actually runs on, built properlyAPI and integration developmentMaking two systems agree, including the one with no documentationMobile applicationsCross-platform where it makes sense, native where it does notReal-time systemsLive data, messaging, presence and media — the unforgiving end of the web