In-cluster inference에 키 및 네트워크 정책; Kamo reranker와 Kamo Local LLM

Shipped

2026년 9월 25일 오전 12:44 UTC

Author

Kamo

Commit

9a8447f

TEI embeddings와 새로운 크로스 엔코더 reranker는 TEI API KEY를 요구합니다; bergamot, LibreTranslate 및 새로운 Kamo 소유 Ollama (qwen3:4b) Kamo auth 프록시 뒤에 앉아; ocrservice, TEI, 프록시 및 LLM은 콜러만 받아들입니다. 각 롤아웃 완료 후 프록시 포트로 서비스 스위치. 프록시 템플릿 세트 map hash bucket size 128 : 71 바이트 "Bearer <64 hex>"키가 적합하지 않습니다. nginx의 기본 64 바이트 버킷과 nginx는 시작을 거부합니다. reranker는 TEI cpu-1.9.4를 실행합니다: 1.5's hf-hub 0.3.2는 허브의 이름을 따서 이 모델에 대한 해결 캐시 리디렉션을 따를 수 없습니다. 각 배치 단계는 서버 비밀과 키가 적용하기 전에 존재합니다 (서버의 참조가 필요합니다).