fix(openwebui): synthesize after six tool calls
This commit is contained in:
1 parent
50c37b09bb
commit
4ac0c479c4
6 files changed
+6
-6
No files matched your search
+1
-1
@@ -4,7 +4,7 @@ MODEL_DIR=/srv/mike-ai/models
|
|||||||
ROUTER_API_KEY=GENERATED_BY_INSTALLER
|
ROUTER_API_KEY=GENERATED_BY_INSTALLER
|
||||||
CONTROLLER_TOKEN=GENERATED_BY_INSTALLER
|
CONTROLLER_TOKEN=GENERATED_BY_INSTALLER
|
||||||
WEBUI_SECRET_KEY=GENERATED_BY_INSTALLER
|
WEBUI_SECRET_KEY=GENERATED_BY_INSTALLER
|
||||||
OPENWEBUI_IMAGE=mike-ai/openwebui:main-01f4282-tool-final-v2
|
OPENWEBUI_IMAGE=mike-ai/openwebui:main-01f4282-tool-final-v3
|
||||||
PIPER_TTS_VERSION=1.6.0
|
PIPER_TTS_VERSION=1.6.0
|
||||||
PIPER_VOICE=de_DE-thorsten-high
|
PIPER_VOICE=de_DE-thorsten-high
|
||||||
XTTS_IMAGE=ghcr.io/coqui-ai/xtts-streaming-server:latest-cuda121@sha256:f7fb3b1f9d4bc88af94da1b5959d8002f1e0b003c97557164034eb8a29f01b90
|
XTTS_IMAGE=ghcr.io/coqui-ai/xtts-streaming-server:latest-cuda121@sha256:f7fb3b1f9d4bc88af94da1b5959d8002f1e0b003c97557164034eb8a29f01b90
|
||||||
|
|||||||
+1
-1
@@ -708,7 +708,7 @@ services:
|
|||||||
build:
|
build:
|
||||||
context: .
|
context: .
|
||||||
dockerfile: platform/openwebui/Dockerfile
|
dockerfile: platform/openwebui/Dockerfile
|
||||||
image: ${OPENWEBUI_IMAGE:-mike-ai/openwebui:main-01f4282-tool-final-v2}
|
image: ${OPENWEBUI_IMAGE:-mike-ai/openwebui:main-01f4282-tool-final-v3}
|
||||||
container_name: mike-ai-open-webui
|
container_name: mike-ai-open-webui
|
||||||
restart: unless-stopped
|
restart: unless-stopped
|
||||||
volumes:
|
volumes:
|
||||||
|
|||||||
@@ -88,7 +88,7 @@ UNCENSORED_MTP_MAX=2
|
|||||||
EXPERIMENTAL_CONTEXT=76800
|
EXPERIMENTAL_CONTEXT=76800
|
||||||
LLAMA_THREADS=6
|
LLAMA_THREADS=6
|
||||||
LLAMA_THREADS_BATCH=6
|
LLAMA_THREADS_BATCH=6
|
||||||
OPENWEBUI_IMAGE=mike-ai/openwebui:main-01f4282-tool-final-v2
|
OPENWEBUI_IMAGE=mike-ai/openwebui:main-01f4282-tool-final-v3
|
||||||
OPENWEBUI_ENABLE_SIGNUP=false
|
OPENWEBUI_ENABLE_SIGNUP=false
|
||||||
OPENWEBUI_ENABLE_FOLLOW_UP_GENERATION=false
|
OPENWEBUI_ENABLE_FOLLOW_UP_GENERATION=false
|
||||||
PIPER_TTS_VERSION=1.6.0
|
PIPER_TTS_VERSION=1.6.0
|
||||||
|
|||||||
@@ -27,7 +27,7 @@ benötigte deshalb kleinere, klarere Werkzeuge und harte Abbruchgrenzen.
|
|||||||
damit führen deutsche Bankexporte nicht mehr unnötig zuerst zu einem
|
damit führen deutsche Bankexporte nicht mehr unnötig zuerst zu einem
|
||||||
ParserError wegen einer falschen Spaltenzahl. Tabellenanalysen sollen im
|
ParserError wegen einer falschen Spaltenzahl. Tabellenanalysen sollen im
|
||||||
Regelfall mit einer Erkennungs- und einer Auswertungsrunde auskommen.
|
Regelfall mit einer Erkennungs- und einer Auswertungsrunde auskommen.
|
||||||
4. Pro Antwort sind höchstens acht Werkzeugrunden und zwölf tatsächlich
|
4. Pro Antwort sind höchstens acht Werkzeugrunden und sechs tatsächlich
|
||||||
ausgeführte Einzelaufrufe erlaubt. Das abgeleitete,
|
ausgeführte Einzelaufrufe erlaubt. Das abgeleitete,
|
||||||
reproduzierbar gebaute OpenWebUI-Image verwendet die letzte Runde zwingend
|
reproduzierbar gebaute OpenWebUI-Image verwendet die letzte Runde zwingend
|
||||||
als werkzeugfreie Synthese. Statt `Tool-call limit reached` ohne Ergebnis
|
als werkzeugfreie Synthese. Statt `Tool-call limit reached` ohne Ergebnis
|
||||||
|
|||||||
+1
-1
@@ -312,7 +312,7 @@ WIREGUARD_CONFIG_FILE=${WIREGUARD_CONFIG_FILE:-/etc/mike-ai/wireguard/fritz-athe
|
|||||||
ROUTER_API_KEY=$(<$SECRETS_DIR/router-api-key)
|
ROUTER_API_KEY=$(<$SECRETS_DIR/router-api-key)
|
||||||
CONTROLLER_TOKEN=$(<$SECRETS_DIR/controller-token)
|
CONTROLLER_TOKEN=$(<$SECRETS_DIR/controller-token)
|
||||||
WEBUI_SECRET_KEY=$(<$SECRETS_DIR/webui-secret)
|
WEBUI_SECRET_KEY=$(<$SECRETS_DIR/webui-secret)
|
||||||
OPENWEBUI_IMAGE=${OPENWEBUI_IMAGE:-mike-ai/openwebui:main-01f4282-tool-final-v2}
|
OPENWEBUI_IMAGE=${OPENWEBUI_IMAGE:-mike-ai/openwebui:main-01f4282-tool-final-v3}
|
||||||
OPENWEBUI_ENABLE_SIGNUP=${OPENWEBUI_ENABLE_SIGNUP:-false}
|
OPENWEBUI_ENABLE_SIGNUP=${OPENWEBUI_ENABLE_SIGNUP:-false}
|
||||||
OPENWEBUI_ENABLE_FOLLOW_UP_GENERATION=${OPENWEBUI_ENABLE_FOLLOW_UP_GENERATION:-false}
|
OPENWEBUI_ENABLE_FOLLOW_UP_GENERATION=${OPENWEBUI_ENABLE_FOLLOW_UP_GENERATION:-false}
|
||||||
PIPER_TTS_VERSION=${PIPER_TTS_VERSION:-1.6.0}
|
PIPER_TTS_VERSION=${PIPER_TTS_VERSION:-1.6.0}
|
||||||
|
|||||||
@@ -29,7 +29,7 @@ replacement = """ tool_call_iterations = 0
|
|||||||
# functions in parallel. Bound actual executions as well so a small
|
# functions in parallel. Bound actual executions as well so a small
|
||||||
# local model cannot expand eight rounds into dozens of API calls.
|
# local model cannot expand eight rounds into dozens of API calls.
|
||||||
tool_call_executions = 0
|
tool_call_executions = 0
|
||||||
max_tool_call_executions = 12
|
max_tool_call_executions = 6
|
||||||
max_tool_call_iterations = getattr(
|
max_tool_call_iterations = getattr(
|
||||||
"""
|
"""
|
||||||
if source.count(needle) != 1:
|
if source.count(needle) != 1:
|
||||||
|
|||||||
Reference in new issue
Block a user