Certified Artificial Intelligence Security Professional (CAISP)

Vzdělávací kurz „Certified Artificial Intelligence Security Professional“ (CAISP) poskytuje účastníkům znalosti a dovednosti potřebné k zabezpečení systémů umělé inteligence v průběhu celého jejich životního cyklu.

Kurz se zabývá hrozbami specifickými pro AI, zranitelnostmi, správou, managementem rizik a bezpečnostními opatřeními v souladu s moderními osvědčenými postupy v oblasti kyberbezpečnosti a AI. Díky kombinaci teorie a praktického uplatnění se účastníci naučí, jak chránit modely AI, data, infrastruktury a provoz před nově se objevujícími hrozbami.

Kurz se rovněž zabývá tím, jak lze umělou inteligenci využít jako obranný prostředek, a zahrnuje bezpečnostní monitorování založené na umělé inteligenci, vyhledávání hrozeb, zpravodajství o hrozbách a bezpečnostní analýzu podporovanou umělou inteligencí.

Proč se kurzu zúčastnit?

Systémy umělé inteligence s sebou přinášejí bezpečnostní rizika, která daleko přesahují rámec tradičních opatření v oblasti kyberbezpečnosti. Na rozdíl od běžného softwaru lze systémy umělé inteligence manipulovat prostřednictvím jejich vstupů, poškodit pomocí trénovacích dat, ohrozit prostřednictvím jejich dodavatelských řetězců a zneužít pomocí nástrojů a oprávnění, která jim jsou udělena – často způsobem, který nezanechává žádné stopy ve standardních bezpečnostních protokolech. Odborníci na bezpečnost, kteří pracují se systémy umělé inteligence nebo v jejich okolí, potřebují zásadně odlišnou sadu kompetencí než ti, kteří chrání tradiční IT prostředí, a tento kurz je navržen právě k vybudování těchto kompetencí.

V tomto vzdělávacím kurzu si účastníci osvojí důkladné porozumění tomu, jak jsou systémy umělé inteligence napadány, jak se proti nim bránit a jak je spravovat, a to od základních konceptů bezpečnosti umělé inteligence až po praktické aplikace.

Vzdělávací kurz zahrnuje laboratorní cvičení, která účastníkům poskytnou přímou zkušenost s reálnými nástroji a technikami zabezpečení umělé inteligence, včetně testování vkládání promptů, red teamingu v oblasti umělé inteligence, pracovních postupů v oblasti zpravodajství o hrozbách a analýzy malwaru pomocí nástrojů reverzního inženýrství podporovaných umělou inteligencí. Tato laboratorní cvičení jsou navržena tak, aby posílila technický obsah každé části a zajistila, že účastníci kurz opustí s dovednostmi, které mohou okamžitě uplatnit ve svých profesních rolích.

Na konci kurzu budou účastníci schopni provést posouzení bezpečnostního stavu systémů AI, zavést vhodná opatření, reagovat na bezpečnostní incidenty v oblasti AI a podporovat správu AI a plnění povinností v oblasti dodržování předpisů ve své organizaci.

Pro koho je vzdělávací kurz určen?

Tento vzdělávací kurz je určen pro:

• Inženýry v oblasti AI a strojového učení odpovědné za vývoj, nasazení nebo údržbu systémů AI
• Odborníky na kyberbezpečnost a informační bezpečnost, kteří chtějí rozšířit své odborné znalosti o hrozby a obranné mechanismy specifické pro AI
• Analytiky SOC a odborníky na zpravodajství o hrozbách pracující v bezpečnostních prostředích využívajících AI
• Architekty a konzultanty v oblasti IT bezpečnosti, kteří navrhují nebo přezkoumávají architektury systémů AI
• Odborníky na management rizik a dodržování předpisů, kteří pracují s rámcem správy a řízení AI a regulačními požadavky
• Datové vědce a vývojáře AI, kteří chtějí uplatňovat bezpečnostní postupy v průběhu celého životního cyklu vývoje AI
• Technologické manažery a technické vedoucí odpovědné za bezpečnostní strategii AI a řízení programů

PECB nabízí různé formáty vzdělávacích kurzů, od tradičních prezenčních kurzů až po moderní, technologicky orientovaná řešení. Chcete-li se o těchto formátech dozvědět více, klikněte prosím zde.

Předpoklady

Od uchazečů se očekává pevný základ v klíčových konceptech kyberbezpečnosti a informační bezpečnosti. Očekává se znalost obecných bezpečnostních principů, včetně modelování hrozeb, Řízení přístupu, reakce na incidenty a monitorování bezpečnosti. Očekává se také základní porozumění fungování systémů strojového učení, včetně znalosti pojmů, jako je trénování modelů, datové potrubí a služby založené na API.

Program kurzu

1. DEN | Základy AI, ML a hlubokého učení

2. DEN | Architektura LLM, trénovací pracovní postupy a taktiky útoků

3. DEN | Bezpečnostní opatření v oblasti AI a strategie zmírňování rizik

4. DEN | Detekce, reakce a bezpečné nasazení

5. DEN | Certifikační zkouška

Školicí materiály

Účastník obdrží prostřednictvím účtu PECB školicí materiály v elektronické podobě obsahující více než 320 stran informací a praktických příkladů. V rámci prezenčního kurzu obdrží účastník také tištěné školicí materiály.

Zkouška

Zkouška „PECB Certified EU AI Governance Professional“ plně splňuje požadavky programu zkoušek a certifikace PECB (ECP). Zahrnuje následující oblasti kompetencí:

• Oblast 1: Základy bezpečnosti pro AI a ML
• Oblast 2: Techniky útoků na AI a nepřátelské hrozby
• Oblast 3: Bezpečnostní opatření pro AI a obranné operace
• Oblast 4: Bezpečnostní analýza a informace o hrozbách vylepšené pomocí AI
• Oblast 5: Správa AI, management rizik a bezpečná architektura

Konkrétní informace o typu zkoušky, dostupných jazycích a dalších podrobnostech naleznete v Seznamu zkoušek PECB a v Pravidlech a politikách zkoušek.

Cena

Cena zahrnuje účast na kurzu, elektronické školicí materiály, poplatek za zkoušku a certifikační poplatek PECB. Cena prezenčního kurzu navíc zahrnuje tištěnou kopii školicích materiálů, oběd v dnech školení a občerstvení.

Certifikace

Po úspěšném složení zkoušky můžete požádat o jednu z certifikací uvedených v tabulce níže. Certifikát obdržíte, jakmile splníte všechny požadavky vybrané certifikace. Další informace o certifikačním procesu PECB naleznete v Pravidlech a politikách certifikace.

Požadavky na certifikaci pro EU AI Governance Professional jsou: