Přeskočit na obsah
.dev
en

AI stack Nux

Šest vrstev, jeden systém. Nástroje jsou až ta poslední.

Každá vrstva stojí na té předchozí a pořadí nešlo přeskočit. Procesy, data a infrastrukturu jsme budovali dřív, než AI dorazila na porady. Proto u nás nástroje fungují.

Kontext

Základy vznikly dřív, než se AI stala tématem

  1. 1

    Procesy a data

    Wiki, GitLab, dokumentace. Bez dat nemá AI s čím pracovat.

  2. 2

    Infrastruktura

    Datacentra, virtualizace, GPU. Provoz modelů pod kontrolou.

  3. 3

    Lokální modely

    Ollama: modely běží u nás. Citlivá data neodcházejí.

  4. 4

    Brána k AI

    Open WebUI: odpovědi nad firemními znalostmi.

  5. 5

    Automatizace

    n8n a PR agent: AI v procesech, ne jen v chatu.

  6. 6

    Vývoj s AI

    Cline, Roo Code, Claude Code: AI v rukou vývojářů.

Vrstvy

Co která vrstva dělá a co nám dává

1 / 6

Infrastruktura: Vlastní železo, vlastní pravidla

Vlastní datacentra · Proxmox · Ceph · GPU

Vlastní infrastruktura ve dvou lokalitách v Česku. Na stejné platformě, kde běží produkční systémy klientů, provozujeme i AI vrstvu.

AI bez vlastní infrastruktury znamená posílat data třetí straně. My jsme to vyřešili dřív, než to bylo téma.

Co nám to dává

  • Modely i data pod fyzickou i právní kontrolou, žádný cizí cloud.
  • Předvídatelné náklady: kapacita se neplatí za token.
  • Rezerva výkonu je prostor pro AI úlohy bez dopadu na produkci.

2 / 6

Lokální modely: Modely běžící u nás

Ollama · ekosystém llama.cpp · open-source modely

Open-source jazykové modely běží na našich GPU. Prompt i odpověď zůstávají v naší síti, nic neodchází k provozovateli modelu.

Veřejné AI má své místo, ale ne u citlivých dat. Pro ně máme modely, které běží doma.

Co nám to dává

  • Citlivé úlohy (interní dokumenty, logy, klientská data) bez kompromisu.
  • Model podle úlohy: malý a rychlý, nebo větší a přesnější.
  • Nezávislost na ceně a dostupnosti cloudových API.

3 / 6

Brána k AI: AI, která zná naše prostředí

Open WebUI · RAG nad wiki, GitLabem a dokumentací

Interní rozhraní k AI. Klíčem je RAG: model dostává relevantní výřezy z našich znalostí a odpovídá nad realitou firmy, ne nad obecným internetem.

Rozdíl mezi „zeptat se AI“ a „zeptat se AI, která zná naše prostředí“ je rozdíl mezi názorem a odpovědí.

Co nám to dává

  • Odpovědi zakotvené v našich dokumentech, ne halucinace.
  • Jedno místo a jedna pravidla: kdo, k čemu a nad jakými zdroji.
  • Expertní role s vlastními instrukcemi: Architekt, Security, Proxmox, MikroTik.
  • Znalosti firmy dostupné každému. Junior se ptá jako senior.

4 / 6

Automatizace: AI zapojená do procesů

n8n · workflow · AI jako krok procesu

Propojuje systémy (GitLab, monitoring, e-mail, API). AI v procesu klasifikuje, sumarizuje a extrahuje, výstup jde rovnou do systému.

Největší hodnota AI nevzniká v chatovacím okně, ale tam, kde ji proces nepotřebuje zmiňovat.

Co nám to dává

  • Rutina běží sama: notifikace, reporty, triáž požadavků.
  • Opakovatelnost a auditní stopa, protože workflow je definované.
  • Lidé řeší výjimky, ne rutinu.

5 / 6

PR agent: AI code review nad každou změnou

Automatická revize merge requestů v GitLabu

Každý merge request projde automatickou AI revizí dřív, než ho uvidí lidský reviewer: rizika, nekonzistence, odchylky od standardů. V diskusi k MR odpovídá na dotazy ke změně.

Tohle je AI, kterou v chatu nikdy neuvidíte. A přesto hlídá každou změnu, která jde do produkce.

Co nám to dává

  • Konzistentní první kontrola u všech změn.
  • Kapacita seniorů na architekturu, ne na překlepy.
  • Dvoustupňová kontrola (AI a člověk) jako standard.

6 / 6

IDE a agenti: AI v rukou vývojářů

Cline · Roo Code · Claude Code · VS Code

AI asistence přímo ve vývojovém prostředí, od našeptávání po agenty, kteří provedou vícekrokovou změnu. Vždy pod kontrolou vývojáře.

Claude Code je skvělý nástroj. Ale je to šestá vrstva ze šesti. Bez těch pod ní by to byl jen drahý chat.

Co nám to dává

  • Rychlejší implementace dobře zadaných úloh.
  • AI zvládne mechaniku, expert drží architekturu a záměr.
  • Nástroj i model podle úlohy, takže máme pod kontrolou i náklady na tokeny.

Průřezové vrstvy

Dvě vrstvy, které drží pravidla napříč všemi

Nástroje nahoře nemluví s modely ani se systémy napřímo. Mezi nimi stojí brána, která rozhoduje, kam dotaz smí, a protokol, který AI pustí jen k tomu, k čemu má oprávnění.

LiteLLM

Jedna brána ke všem modelům

Proxy mezi našimi nástroji a modely. Open WebUI, IDE, n8n i agenti mluví s jedním OpenAI-compatible endpointem a vrstva pod nimi rozhoduje, kam požadavek půjde.

Open WebUIIDE a agentin8n
LiteLLM · routing, limity, audit
vlastní cluster (Ollama)cloudové modely
  • Volba modelu je konfigurace, ne rozhodnutí jednotlivce.
  • Citlivá data na vlastní cluster, zbytek může do cloudu.
  • Limity a audit log na jednom místě: kdo, jaký model, kdy.
  • Agentní pipeline: bezpečnostní testy a code review jako řízené sekvence kroků.

Volba modelu je provozní rozhodnutí, ne věc vkusu vývojáře. Proto ji řeší vrstva, ne člověk.

MCP

AI se dívá do našich systémů

Standardizovaný protokol, kterým se AI dostane k našim systémům. Ne export z minulého týdne, ale aktuální stav, přes servisní účty s definovaným rozsahem.

Open WebUIIDEagent v pipeline
MCP · oprávnění, rozsah, audit log
GitLabDokumentaceNetBoxInterní API
  • Odpovědi nad reálným stavem projektu, ne nad kopií dat.
  • Na stav zadání v GitLabu se zeptá i netechnický člověk.
  • Každý dotaz je dohledatelný: oprávnění i auditní stopa.

MCP je most mezi AI a našimi systémy. Bez něj AI hádá, s ním odpovídá nad realitou projektu.

Ekonomika

Rutinu na levné lokální modely, vlajkové jen na výjimky

Ne každá úloha potřebuje vlajkový model, a token něco stojí. Klasifikaci, extrakci, sumarizaci a triáž zvládne malý lokální model za zlomek ceny cloudového API.

  • Vlastní GPU stack: kapacita pro lokální inferenci.
  • Volbu modelu řeší LiteLLM centrálně, je to pravidlo, ne úsudek jednotlivce.
  • Měříme vytížení GPU v Grafaně (vytížení, teplota, alokace paměti), takže víme, kdy škálovat.
  • Levný token znamená, že se automatizace vyplatí i u velkých objemů.

Ekonomika AI se neřídí u chatu, ale u volby modelu.

Na čem to běží

GPU
NVIDIA Tesla P6 (architektura Pascal)
Inference
Ollama, ekosystém llama.cpp
Modely v provozu
Gemma 3 12B, Qwen 2.5 14B
Virtualizace
Proxmox VE, úložiště Ceph
Lokality
dvě datacentra v Česku
Dohled
Grafana: metriky GPU

Pascal je starší generace GPU. Novější inferenční servery (vLLM, TensorRT-LLM) na něm neběží, proto stavíme na ekosystému llama.cpp a modelech do velikosti, kterou karta unese. Pro rutinní úlohy to stačí, pro náročné máme cloudové modely za stejnou bránou.

Design a kód

Penpot místo Figmy, provozovaný u nás

Penpot je open-source nástroj pro design a prototypování. Provozujeme ho na vlastní infrastruktuře, takže návrhy zůstávají u nás a neplatíme licence po uživatelích. Z kódu generujeme prototypy a z návrhu zpět kód; AI propojuje návrh s komponentami oběma směry.

Design není odtržený od vývoje. Návrh a kód si u nás předávají práci oběma směry.

Časté otázky

Na co se ptají vývojáři i vedení

Proč lokální modely, když cloudové jsou chytřejší?

Protože většina práce v procesech je rutina: zařadit e-mail, shrnout issue, vytáhnout údaje z dokumentu. Na to stačí model s 12 miliardami parametrů na vlastní GPU, data přitom neodcházejí a token nic nestojí. Cloudový model nasazujeme tam, kde je opravdu potřeba a kde to data dovolí.

Kdo rozhoduje, jestli dotaz půjde na lokální, nebo cloudový model?

Konfigurace, ne člověk u klávesnice. Nástroje volají jednu bránu (LiteLLM) a model je dán pravidlem úlohy. Agenti, kteří pracují s klientskými daty, si navíc před prvním dotazem u brány ověří, že model běží na našem hardwaru, jinak nic neodešlou.

Používáte ChatGPT nebo Claude?

Ano, tam, kde dávají smysl a kde to data dovolí: vývojáři v IDE, náročnější shrnutí, koncepty odpovědí. Vždy přes stejnou bránu s auditní stopou a nikdy s daty, která podle pravidel nesmí ven.

Stačí starší GPU na produkční AI?

Na rutinní úlohy ano. Měříme to: v triáži e-mailů zařadí lokální model zprávu za 5 až 10 sekund, což při desítkách zpráv denně nikoho nezdržuje. Kde výkon nestačí, rozhoduje pravidlo, ne improvizace.

Nezávazná konzultace

Pojďme najít první úlohu pro AI u vás.

Hodina rozhovoru o tom, kde máte data, které procesy vás zdržují a co z toho smí opustit vaši síť. Odejdete s návrhem prvního pilotu, ne s prezentací nástrojů.

Napsat na meet@nux.czZavolat+420 250 250 500
Radek Růžička, jednatel a technický ředitel Nux s.r.o.

AI vrstvu v Nuxu staví a odpovídá za ni

Radek Růžička

jednatel a technický ředitel Nux s.r.o.

radek.ruzicka@nux.cz
meet@nux.cz
Rádi i pod NDA