Add CPU embeddings for OpenClaw memory
This commit is contained in:
@@ -24,6 +24,7 @@ dokumentieren den ausgerollten Stand, reduzierte Statuslatenzen und Tests.
|
||||
- FLUX.2 Klein 9B FP8 Beta: Transformer/VAE auf RTX 5080, Textencoder auf RTX 3060
|
||||
- Qwen3-TTS 1.7B auf der RTX 3060 hinter dem TTS-Gateway; kein Piper-Fallback
|
||||
- Whisper.cpp `small` auf der CPU für lokale deutsche Spracherkennung
|
||||
- EmbeddingGemma 300M Q8 auf der CPU für OpenClaws hybride Memory-Suche
|
||||
- Live-Dashboard mit 21 Tagen Detailhistorie für GPUs und Slot-Kontextbelegung auf Port 8099
|
||||
- Portainer CE als optionale Container-Ansicht auf Port 9443
|
||||
- WireGuard-Gateway, Datenbackup und Athena-Operator
|
||||
@@ -129,6 +130,7 @@ Prefills konkurrieren weiterhin um Rechenleistung und den gemeinsamen KV-Pool.
|
||||
## Endpunkte
|
||||
|
||||
- Router: `http://192.168.1.212:8081/v1`
|
||||
- Embeddings: `http://192.168.1.212:8082/v1`
|
||||
- Athena-Dashboard: `http://192.168.1.212:8099`
|
||||
|
||||
Der Router stellt Sprache OpenAI-kompatibel bereit: Sprachausgabe über
|
||||
@@ -148,6 +150,11 @@ OpenClaw wird über den Provider **llama.cpp → Existing llama-server** mit
|
||||
erkennt OpenClaw die vollständige Auswahl automatisch, während Laden,
|
||||
Entladen und Umschalten weiterhin ausschließlich der Athena Profile Router
|
||||
übernimmt.
|
||||
|
||||
OpenClaws Memory-Suche verwendet den separaten CPU-Dienst
|
||||
`mike-ai-embedding`. Dadurch bleiben die GPUs vollständig für Qwen, Vision
|
||||
und TTS verfügbar. Die verbindliche Konfiguration, Prüfung und
|
||||
Wiederherstellung stehen in [OpenClaw Memory](docs/OPENCLAW_MEMORY.md).
|
||||
- Portainer: `https://192.168.1.212:9443`
|
||||
- Hermes-Dashboard auf Unraid: `http://192.168.1.2:9119`
|
||||
|
||||
|
||||
Reference in New Issue
Block a user