tomasz-syn-grzegorza
359afb3a59
Infrastructure configs for GMKtec K11 (Docker, vLLM, LocalAI, ComfyUI, control-plane, gpu-fan agent, Server UI with CLI/file explorer/GPU fan curve). Co-authored-by: Cursor <cursoragent@cursor.com>
26 lines
1.2 KiB
Markdown
26 lines
1.2 KiB
Markdown
# coding-agent — notatki dla agenta (stack LocalAI)
|
|
|
|
Katalog handoff dla sesji Cursor pracujących nad [`stacks/localai/`](../) na serwerze GMKtec K11.
|
|
|
|
## Kolejność czytania
|
|
|
|
1. **[HANDOFF.md](HANDOFF.md)** — decyzje (KV q8_0), audyt, następne kroki
|
|
2. **[STATE.md](STATE.md)** — stan runtime: kontener, modele, backendy, VRAM
|
|
3. **[KV-CACHE.md](KV-CACHE.md)** — referencja techniczna KV cache w YAML
|
|
4. **[BACKLOG.md](BACKLOG.md)** — priorytetyzowane zadania
|
|
5. **[CONVENTIONS.md](CONVENTIONS.md)** — ścieżki, sekrety, konwencje stacku
|
|
|
|
Wspólne konwencje repo: [`../../coding-agent/CONVENTIONS.md`](../../coding-agent/CONVENTIONS.md)
|
|
|
|
## Zasady
|
|
|
|
- Instrukcje dla użytkownika: **po polsku**. Komendy: **po angielsku**.
|
|
- **Nie commituj** ani nie zapisuj tutaj wartości `LOCALAI_API_KEY`, tokenów HF itd.
|
|
- YAML modeli na `/data/apps/localai/models/` **nie są w git** — szablony trzymaj w [`../profiles/`](../profiles/).
|
|
- Commity i push **tylko na prośbę** użytkownika.
|
|
- Nie edytuj plików planu w `.cursor/plans/`.
|
|
|
|
## Ostatnia aktualizacja
|
|
|
|
Sesja: audyt KV cache → wdrożenie `cache_type_k/v: q8_0` + `flash_attention` dla modeli chat (llama-cpp).
|