tomasz-syn-grzegorza
359afb3a59
Infrastructure configs for GMKtec K11 (Docker, vLLM, LocalAI, ComfyUI, control-plane, gpu-fan agent, Server UI with CLI/file explorer/GPU fan curve). Co-authored-by: Cursor <cursoragent@cursor.com>
coding-agent — notatki dla agenta (stack LocalAI)
Katalog handoff dla sesji Cursor pracujących nad stacks/localai/ na serwerze GMKtec K11.
Kolejność czytania
- HANDOFF.md — decyzje (KV q8_0), audyt, następne kroki
- STATE.md — stan runtime: kontener, modele, backendy, VRAM
- KV-CACHE.md — referencja techniczna KV cache w YAML
- BACKLOG.md — priorytetyzowane zadania
- CONVENTIONS.md — ścieżki, sekrety, konwencje stacku
Wspólne konwencje repo: ../../coding-agent/CONVENTIONS.md
Zasady
- Instrukcje dla użytkownika: po polsku. Komendy: po angielsku.
- Nie commituj ani nie zapisuj tutaj wartości
LOCALAI_API_KEY, tokenów HF itd. - YAML modeli na
/data/apps/localai/models/nie są w git — szablony trzymaj w../profiles/. - Commity i push tylko na prośbę użytkownika.
- Nie edytuj plików planu w
.cursor/plans/.
Ostatnia aktualizacja
Sesja: audyt KV cache → wdrożenie cache_type_k/v: q8_0 + flash_attention dla modeli chat (llama-cpp).