AI v moderním IT provozu: od LLM po agentní systémy

Jednodenní školení zaměřené na praktické využití moderní AI, LLM, agentních systémů, RAG architektur, bezpečnosti a AI asistovaného programování pro seniorní IT role. Ukážeme si, kde už dnes AI reálně zrychluje práci v IT provozu, infrastruktuře, bezpečnosti i vývoji a kde naopak naráží na své limity. Účastníci získají technický rámec pro to, aby dokázali rozlišit mezi efektivním demo use casem a nasaditelným řešením, které obstojí v reálném enterprise prostředí.

Lektor kurzu

JAROSLAV ČECH

Jaroslav Čech je zkušený softwarový architekt a AI konzultant s více než 30 lety praxe v IT. Spolupracoval se společnostmi BMW, O2, ČEZ či PPL a stál u zrodu úspěšné platformy mluvii.

Dnes se specializuje na AI agenty, RAG systémy, podnikové AI integrace a nástroje GitHub Copilot a Codex. Ve svých kurzech propojuje hluboké technické znalosti s praktickými zkušenostmi z reálných projektů a předává účastníkům postupy okamžitě využitelné v praxi.

Cílová skupina

Technické vedení

• IT management
• tech management

Infrastruktura a provoz

• infrastructure engineers
• devops engineers
• network engineers

Bezpečnost a podpora

• security engineers
• IT support
• voicebot / chatbot specialisté

Cíle kurzu

• Cílem je vytvořit technicky realistické porozumění aktuálního stavu AI.
• Pochopit principy fungování moderní AI a LLM.
• Naučit se prakticky používat AI v každodenní IT práci.
• Porozumět agentním systémům a RAG architekturám.
• Pochopit bezpečnostní rizika AI v enterprise prostředí.
• Získat přehled o enterprise i open-source AI technologiích.
• Vidět praktický vývoj AI systému od návrhu po deployment.

Osnova kurzu

1. Teorie AI a současné trendy

Od generování odpovědí k samostatnému plnění úkolů

• Vývoj AI za posledních pět let: generativní AI, reasoning modely, multimodalita a agentní systémy.
• LLM vs. tradiční machine learning: kdy použít který přístup.
• Rozdíl mezi modelem, chatbotem, AI aplikací, workflow a agentem.
• Proč AI mění vývoj softwaru, administraci a práci se znalostmi.

Jak model funguje

• Tokeny, kontextové okno, embeddings, transformer a attention mechanismus.
• Trénování, post-training a inference.
• Predikce dalšího tokenu jako základ generování; jak na ní vznikají komplexnější schopnosti.
• Multimodalita: práce s textem, obrázky, dokumenty, zvukem a videem.

Reasoning a používání nástrojů

• Co znamená reasoning a jak ovlivňuje kvalitu, latenci a cenu.
• Rozdíl mezi interním reasoningem, vysvětlením odpovědi a ověřitelným postupem řešení.
• Tool calling: model navrhuje volání nástroje, aplikace zajišťuje jeho provedení.
• Kdy postačí rychlý model a kdy se vyplatí hlubší analýza.

Schopnosti a limity

• Analýza textů a logů, generování kódu, troubleshooting, extrakce dat.
• Halucinace, neaktuální znalosti, nekonzistence a přehnaná jistota.
• Dlouhý kontext nezaručuje správné využití všech informací.
• Jak ověřovat výstupy a poznat úkol nevhodný pro LLM.

2. Pokročilý prompt engineering a context engineering

Zadávání úkolů

• System, developer a user instrukce; jejich role podle konkrétní platformy.
• Struktura zadání: cíl, kontext, vstupy, omezení, požadovaný výstup a kritéria úspěchu.
• Oddělení instrukcí od dokumentů a dalších nedůvěryhodných dat.
• Zero-shot, few-shot a práce s příklady správných i chybných výsledků.

Promptování reasoning modelů

• Jasné cíle, omezení a podmínky dokončení.
• Rozdělení složitého zadání na kontrolovatelné kroky.
• Požadování důkazů, zdrojů a ověření výsledku.
• Proč „přemýšlej krok za krokem“ není univerzální technika; OpenAI u reasoning modelů doporučuje přímé zadání bez vynucování chain-of-thought.

Context engineering

• Jak sestavit kontext z instrukcí, historie, dokumentů, nástrojů a paměti.
• Výběr relevantních informací, průběžné shrnování a kompakce kontextu.
• Rozdíl mezi kontextovým oknem, stavem úlohy a dlouhodobou pamětí.
• Skills: opakovaně použitelné pracovní postupy, instrukce a skripty. Správa celého kontextu je zásadní zejména u dlouhodobě běžících agentů.

Spolehlivé výstupy a praktické ukázky

• Structured outputs, JSON Schema a následná věcná validace.
• Verzování promptů, testovací případy a porovnávání variant.
• Analýza logů, generování skriptů a troubleshooting.
• Příklady z projektů Quizzy.io a Actisto.com.

3. Agentní systémy a integrace

Architektura agenta

• Agent jako model + nástroje + stav + řídicí smyčka + pravidla.
• Pevně definované workflow vs. agent, který dynamicky volí další kroky.
• Agentní smyčka: vyhodnocení situace → akce → pozorování výsledku → pokračování.
• Agent harness: prostředí zajišťující běh, oprávnění, nástroje a obnovu práce.

MCP a nástroje

• Model Context Protocol: propojení AI aplikací s nástroji a datovými zdroji.
• MCP klient a server; tools, resources a prompts.
• Filesystem, databáze, web search, shell a podniková API.
• Autentizace, autorizace a oprávnění uživatele při volání nástrojů.

Dlouhodobé a víceagentní úlohy

• Stav úlohy, checkpointy, přerušení, pokračování a zotavení po chybě.
• Spouštění podle času nebo události, webhooks a úlohy na pozadí.
• Manager/worker, předávání úloh, paralelní zpracování a kontrola výsledků.
• Kdy více agentů pomáhá a kdy zvyšuje náklady a chybovost.

Implementace a řízení

• Limity času, kroků, tokenů a finančního rozpočtu.
• Retry, timeouty a prevence opakovaného provedení stejné akce.
• Human-in-the-loop: schválení, doplnění informací a eskalace.
• Ukázka sestavení agenta pomocí vizuálního nástroje a API/SDK; u OpenAI zahrnout aktuální Agents API a Agents SDK.

4. Osobní a týmoví AI asistenti: Dots, OpenClaw a podobné nástroje

Od jednorázového zadání k průběžné odpovědnosti

• Asistent pro konkrétní úkol vs. agent, který dlouhodobě sleduje určitou oblast.
• Paměť, preference, průběžný kontext a opakované úlohy.
• Proaktivní upozornění a hranice samostatného rozhodování.

Přehled nástrojů

Jde o různé přístupy k provozu a integraci asistentů; dostupnost konkrétních funkcí se liší podle produktu a účtu.

Jak nástroje porovnávat

• Cloudový provoz vs. vlastní infrastruktura; kde běží model a kam odcházejí data.
• Přístup k souborům, e-mailu, kalendáři, repozitářům a podnikovým systémům.
• Skills, pluginy, konektory a MCP.
• Oprávnění, audit, schvalování, náklady a provozní odpovědnost.
• Proč self-hosted asistent automaticky neznamená lokální zpracování modelem.

Praktická ukázka

• Asistent připravující ranní přehled incidentů a otevřených úkolů.
• Sledování změn dokumentace nebo stavu projektu.
• Zpracování podkladů → návrh dalšího kroku → schválení → provedení.
• Nastavení hranic: co smí číst, měnit, odesílat a kdy se musí zeptat.

5. RAG systémy a práce s firemními znalostmi

Volba přístupu

• Princip Retrieval-Augmented Generation.
• RAG vs. vložení dokumentu do dlouhého kontextu vs. fine-tuning.
• Kombinace dokumentů, databázových dotazů a živých API.

Vyhledávání a relevance

• Vektorové, fulltextové a hybridní vyhledávání.
• Query rewriting, rozklad dotazu a vyhledávání více variant.
• Reciprocal Rank Fusion — RRF — a následný reranking.
• GraphRAG: vztahy mezi entitami, přínosy a náklady tvorby grafu.
• Agentic RAG: agent volí zdroje a podle výsledků doplňuje vyhledávání. Hybridní vyhledávání, reranking a GraphRAG zařadit jako samostatné přístupy s odlišným účelem.

Příprava znalostní báze

• Parsování PDF, tabulek, obrázků a skenů; význam OCR a struktury dokumentu.
• Fixed-size, strukturální, sémantický a parent–child chunking.
• Metadata: zdroj, datum, verze, vlastník, oprávnění a oblast platnosti.
• Inkrementální aktualizace, odstraňování neplatných dat a dohledatelnost zdrojů.

Provoz a ověřování

1. pgvector, Pinecone a Weaviate: kritéria výběru.
2. Filtrování podle oprávnění uživatele.
3. Relevance nalezených podkladů, správnost citací a podloženost odpovědi.
4. Kdy má systém odpovědět „nemám dostatek podkladů“.
5. Ukázka interního znalostního asistenta a podpory onboardingu.

6. Administrátorské AI nástroje a computer use

Způsoby přístupu k infrastruktuře

• Shell, API, MCP, prohlížeč a ovládání grafického rozhraní.
• Výběr rozhraní podle spolehlivosti, oprávnění a kontrolovatelnosti.
• Rozdíl mezi návrhem příkazu a jeho skutečným provedením.
• Lokální, vzdálené a sandboxované prostředí.

Praktické scénáře

• Analýza logů, konfigurací a provozních metrik.
• Diagnostika serveru, kontejneru nebo databázového spojení.
• Generování a kontrola PowerShell/Bash skriptů.
• Návrh nápravy, ověření dopadu a aktualizace runbooku.

Bezpečné provedení změn

• Read-only diagnostika, dry-run a schvalování změn.
• Minimální oprávnění a oddělené servisní identity.
• Záloha, rollback, kontrola výsledného stavu a auditní stopa.

7. AI asistované programování a agentní vývoj

Nástroje a režimy práce

• Codex, GitHub Copilot, Claude Code a AI IDE.
• Doplňování kódu, interaktivní spolupráce a delegování celých úkolů.
• Lokální agent, cloudový agent a agent pracující nad repozitářem.

Od zadání k ověřenému výsledku

• Specifikace, akceptační kritéria a implementační plán.
• Orientace v existujícím projektu a práce s projektovými instrukcemi.
• Generování kódu, refaktoring a migrace závislostí.
• Testy, code review, bezpečnostní kontrola a CI/CD.
• Paralelní práce v oddělených větvích a řešení konfliktů.

• Zadání funkce nebo chyby → analýza → změna → test → pull request.
• Dockerizace a příprava nasazení.
• Kontrola rozsahu změn, kvality testů a zbytečné složitosti.
• Vibe coding a jeho hranice při údržbě produkčního systému.

8. Bezpečnost AI v enterprise prostředí

Hrozby

• Únik dat a neautorizované akce.
• Přímá i nepřímá prompt injection v dokumentech, e-mailech a na webu.
• Zneužití nástrojů, otrávení paměti a znalostní báze.
• Rizika MCP serverů, pluginů, skills a dalších závislostí.

Technická ochrana

• Oddělení instrukcí od nedůvěryhodného obsahu.
• Vynucování oprávnění v aplikaci a infrastruktuře, nikoli pouze promptem.
• Sandbox, omezení síťového přístupu, správa tajemství a tool allow-list.
• Schvalování významných akcí a možnost okamžitého zastavení agenta.

Data governance a audit

• Klasifikace dat, minimalizace a anonymizace.
• Retence, použití dat pro trénování a umístění zpracování.
• Přístupová práva napříč konektory, RAG a pamětí.
• Evidence akcí, verzí instrukcí a změn konfigurace.
• Bezpečnostní testy a řešení incidentu způsobeného AI.

9. Open-weight modely, lokální a hybridní AI

Výběr modelu

• Rozdíl mezi open-source a open-weight; licence a podmínky použití.
• Přehled rodin Qwen, DeepSeek, Mistral a Llama podle aktuální nabídky.
• Malé specializované modely vs. velké univerzální a reasoning modely.
• Hodnocení češtiny, práce s kódem, tool callingu a strukturovaných výstupů.

Inference a infrastruktura

• Ollama, vLLM a llama.cpp.
• Kvantizace, GPU/VRAM, délka kontextu a souběžné požadavky.
• Embeddingové modely a rerankery.
• Model server + retrieval + nástroje + agentní vrstva + monitoring.

Ekonomika a hybridní architektura

• Náklady na hardware, inference, správu a aktualizace.
• Routing podle citlivosti dat, složitosti úkolu a požadované latence.
• Lokální zpracování vybraných úloh a cloudové modely pro náročné případy.
• Fallback a ověřování kvality po změně modelu.

10. Evaluace, observability a ekonomika AI

Jak měřit skutečnou kvalitu

• Testovací sada z reálných úloh a chyb.
• Úspěšné dokončení úkolu, správnost výsledku a dodržení oprávnění.
• Deterministické kontroly, lidské hodnocení a LLM-as-a-judge.
• Opakované běhy a regresní testy při změně modelu, promptu nebo nástroje.

Jak sledovat provoz

• Tracing volání modelu, nástrojů a předávání mezi agenty.
• Latence, chybovost, spotřeba tokenů a počet lidských zásahů.
• Rozlišení chyby modelu, retrievalu, nástroje a orchestrace.
• Ověření skutečného výsledného stavu; samotné tvrzení agenta, že úkol dokončil, nestačí.

Jak hodnotit přínos

• Cena za úspěšně dokončený úkol.
• Úspora času včetně lidské kontroly a oprav.
• Optimalizace pomocí výběru modelu, cachování a omezení zbytečných kroků.
• Přechod od demonstrace přes pilot k produkčnímu provozu.

11. Závěrečná praktická úloha a diskuze

Ukázka propojující jednotlivé části kurzu

• Přijetí incidentu nebo požadavku.
• Vyhledání související dokumentace a analýza logů.
• Návrh řešení s uvedením podkladů a nejistot.
• Schválení zásahu, provedení v testovacím prostředí a ověření výsledku.
• Vytvoření záznamu, aktualizace znalostní báze a změření nákladů.

Diskuze nad využitím u účastníků

• Incident analysis a infrastructure troubleshooting.
• Security log investigation.
• Support automation a knowledge assistants.
• Modernizace aplikací a automatizace vývoje.
• Osobní a týmoví asistenti pro opakovanou práci.
• Výběr prvního pilotu: přínos, dostupnost dat, rizika a měřitelný výsledek.