Add CPU embeddings for OpenClaw memory

This commit is contained in:
Mikei386
2026-09-21 08:31:45 +02:00
parent de3f8fd7aa
commit 302b08e051
13 changed files with 231 additions and 7 deletions
+11 -2
View File
@@ -1,6 +1,6 @@
# Geprüfter Live-Stand auf Athena
Stand: **20. September 2026**. Quelle: lesender SSH-Abgleich von Docker,
Stand: **21. September 2026**. Quelle: lesender SSH-Abgleich von Docker,
Compose-Dateien, Git-Inhalten, Images, Health-Endpunkten und Backup-Timern.
Containerzustände sind Momentaufnahmen; der Controller darf Profile danach
umschalten. Es wurde für diesen Abgleich kein Dienst neu gestartet.
@@ -45,6 +45,15 @@ nicht mehr den aktuellen Containerzustand.
1280 × 1280 lief im Test in CUDA-OOM.
- Qwen3-TTS 1.7B auf 3060 hinter dem TTS-Gateway; kein Piper-Fallback.
- Whisper.cpp `ggml-small` auf CPU über `/v1/audio/transcriptions`.
- `mike-ai-embedding` stellt EmbeddingGemma 300M Q8 CPU-only über den privaten
WireGuard-Endpunkt `http://192.168.1.212:8082/v1/embeddings` bereit. Eine
Probe mit zwei deutschen Texten lieferte zwei Vektoren mit je 768 Dimensionen.
Gemessen wurden rund 86 MiB RAM im Leerlauf, rund 1,1 GiB beim vollständigen
Indexaufbau und 0,044 Sekunden für die abschließende Netzwerkprobe. OpenClaw
indexierte 107 Dateien mit 1.139 Chunks vollständig; die semantische Suche
und der 768-dimensionale Vektorindex sind aktiv. Der
GPU-Versuch war zwar schneller (0,077 Sekunden), ließ im Ultra-Profil aber
nur 372 MB VRAM auf der RTX 3060 frei und wurde deshalb verworfen.
- Der gesunde Dienst `mike-ai-realtime-voice` vermittelt OpenClaw Talk über
WebRTC zwischen Whisper, dem normalen OpenClaw-Agenten und Qwen3-TTS.
Er braucht keine GPU und keinen Profilwechsel. Das Plugin liegt in
@@ -59,7 +68,7 @@ nicht mehr den aktuellen Containerzustand.
trotzdem Status, Modelle und vorbereitende Aufgaben anzeigen; eine echte
Konvertierung verlangt den Applio-Modus.
Der vollständige Bestand der **30** angelegten Docker-Container steht im
Der vollständige Bestand der **31** angelegten Docker-Container steht im
[Container-Inventar](CONTAINER_INVENTORY.md). `Created` oder `Exited` bei
Spezialworkern bedeutet nicht automatisch einen zu entfernenden Testrest.