AI Gateway – bezpečné zpřístupnění AI v organizaci

Popis kurzu

V tomto intenzivním praktickém workshopu si v bezpečném labovém prostředí zprovozníte vlastní AI gateway. Na konkrétním řešení postaveném na LiteLLM a OpenWebUI propojíte klientské aplikace, model v cloudu i lokální model, audit a ochranné politiky. Vyzkoušíte si, jak centrálně řídit přístup k modelům, maskovat nebo blokovat citlivé údaje, reagovat na škodlivé prompty a dohledat AI operaci v logu.

Co bude výsledkem:

Workshop není produktová prezentace. Ukazuje přenositelný návrhový postup pro open-source, komerční i hybridní variantu gateway. Účastník absolvuje cestu od připraveného labu přes připojené klienty až k základnímu návrhu pro vlastní organizaci.

Po absolvování účastník umí vysvětlit architekturu, zprovoznit a otestovat základ vlastní AI gateway. V labu vytvoří funkční referenční prostředí s modelovou politikou, auditní stopou a bezpečnostními kontrolami.

1denní kurz | 9:00 - 16:00 | s obědem

Kurz bude otevřen po naplnění minimálního počtu 3 účastníků.

Cíle kurzu

• Navrhnout AI gateway: určíte, kde má být kontrolní bod mezi klientem a modelem a co do něj patří
• Zprovoznit labové prostředí: nasadíte gateway, databázi pro audit a rozhraní OpenWebUI
• Připojit různé klienty: webové rozhraní, vývojový klient a interní aplikaci či agenta napojíte přes jednotné API
• Řídit přístup: nastavíte oddělené klíče pro uživatelské a aplikační použití a povolené modely
• Prosazovat guardrails: vyzkoušíte detekci a maskování citlivých údajů, blokaci rizikového požadavku a ochranu proti prompt-injection
• Řídit modely: nastavíte modelové aliasy a ukážete jednoduché směrování mezi cloudovým a lokálním modelem
• Auditovat a monitorovat: dohledáte klienta, model, tokeny, cenu a výsledek bezpečnostní politiky pro konkrétní požadavek

Určeno pro

Nejde o kurz promptování pro běžné uživatele. Je zaměřen na technický návrh, integraci a bezpečný provoz společné AI platformy.

Kurz je určen především pro:

• Bezpečnostní architekty a security specialisty, kteří potřebují AI zpřístupnit s kontrolou nad daty
• Systémové, cloudové a síťové administrátory, kteří budou gateway provozovat
• DevOps a platform engineering specialisty, kteří připravují společnou AI platformu
• vývojáře a technické leady, kteří chtějí bezpečně připojit AI asistenty a interní aplikace
• IT manažery, kteří rozhodují o modelu provozu, nákladech a odpovědnostech

Obsah kurzu

1. Proč AI gateway: shadow AI, data, identita, audit, náklady a dodavatelská závislost. Referenční architektura a hranice gateway
2. Základní lab: LiteLLM Proxy, databáze pro audit, OpenWebUI a modely. OpenAI-kompatibilní API, modelové aliasy a ověření provozu
3. Klienti a přístup: OpenWebUI, Codex/Cursor nebo kompatibilní vývojový klient a jednoduchá interní aplikace. Virtuální klíče, modelová oprávnění a oddělení uživatelského a aplikačního použití
4. Guardrails: DLP a citlivé údaje, maskování versus blokace, prompt-injection. Lokální versus cloudový model
5. Audit a řízení provozu: request/audit log, tokeny, náklady, minimální metriky a ochrana logovaných dat
6. Závěrečný mini-úkol

Poznámka

1. • Pokyny obvykle zasíláme 7 kalendářních dní před zahájením
   • V objednávce uvádějte vždy jméno a příjmení účastníka, email a mobil (v případě řešení organizačních náležitostí)
   • Na základě objednávky zasíláme zálohovou fakturu (pokud s objednavatelem nejsou sjednány jiné platební podmínky)
   • Součástí školení je připravený LAB. Účastník nepotřebuje vlastní placené API klíče

   Pro prezenční formu:

   • V učebně máte připravenu veškerou potřebnou techniku
   • K dispozici je poznámkový blok a psací potřeby
   • Přístup k WI-FI a internetu
   • Obdržíte vytištěné Osvědčení o absolvování kurzu

   Pro online formu:

   • Potřebujete internet, webkameru a mikrofon
   • Doporučujeme dva monitory
   • Před kurzem je nutné prověřit přístup k RDP protokolu či VPN (pro vzdálený přístup k LABům)

Předpoklady

Pro plnohodnotné zapojení do labů očekáváme:

• běžnou orientaci v Linuxu, síti TCP/IP, DNS a HTTPS
• základy práce v příkazové řádce a s konfigurací YAML/JSON
• základní znalost kontejnerů Docker/Compose výhodou
• obecné povědomí o API, autentizaci a principech AI/LLM

Znalost LiteLLM, OpenWebUI, Codex, Cursor ani konkrétního cloudového modelu není nutná.