Vzdělávací kurz „Certified Artificial Intelligence Security Professional“ (CAISP) poskytuje účastníkům znalosti a dovednosti potřebné k zabezpečení systémů umělé inteligence v průběhu celého jejich životního cyklu.
Kurz se zabývá hrozbami specifickými pro AI, zranitelnostmi, správou, managementem rizik a bezpečnostními opatřeními v souladu s moderními osvědčenými postupy v oblasti kyberbezpečnosti a AI. Díky kombinaci teorie a praktického uplatnění se účastníci naučí, jak chránit modely AI, data, infrastruktury a provoz před nově se objevujícími hrozbami.
Kurz se rovněž zabývá tím, jak lze umělou inteligenci využít jako obranný prostředek, a zahrnuje bezpečnostní monitorování založené na umělé inteligenci, vyhledávání hrozeb, zpravodajství o hrozbách a bezpečnostní analýzu podporovanou umělou inteligencí.
Proč se kurzu zúčastnit?
Systémy umělé inteligence s sebou přinášejí bezpečnostní rizika, která daleko přesahují rámec tradičních opatření v oblasti kyberbezpečnosti. Na rozdíl od běžného softwaru lze systémy umělé inteligence manipulovat prostřednictvím jejich vstupů, poškodit pomocí trénovacích dat, ohrozit prostřednictvím jejich dodavatelských řetězců a zneužít pomocí nástrojů a oprávnění, která jim jsou udělena – často způsobem, který nezanechává žádné stopy ve standardních bezpečnostních protokolech. Odborníci na bezpečnost, kteří pracují se systémy umělé inteligence nebo v jejich okolí, potřebují zásadně odlišnou sadu kompetencí než ti, kteří chrání tradiční IT prostředí, a tento kurz je navržen právě k vybudování těchto kompetencí.
V tomto vzdělávacím kurzu si účastníci osvojí důkladné porozumění tomu, jak jsou systémy umělé inteligence napadány, jak se proti nim bránit a jak je spravovat, a to od základních konceptů bezpečnosti umělé inteligence až po praktické aplikace.
Vzdělávací kurz zahrnuje laboratorní cvičení, která účastníkům poskytnou přímou zkušenost s reálnými nástroji a technikami zabezpečení umělé inteligence, včetně testování vkládání promptů, red teamingu v oblasti umělé inteligence, pracovních postupů v oblasti zpravodajství o hrozbách a analýzy malwaru pomocí nástrojů reverzního inženýrství podporovaných umělou inteligencí. Tato laboratorní cvičení jsou navržena tak, aby posílila technický obsah každé části a zajistila, že účastníci kurz opustí s dovednostmi, které mohou okamžitě uplatnit ve svých profesních rolích.
Na konci kurzu budou účastníci schopni provést posouzení bezpečnostního stavu systémů AI, zavést vhodná opatření, reagovat na bezpečnostní incidenty v oblasti AI a podporovat správu AI a plnění povinností v oblasti dodržování předpisů ve své organizaci.
Pro koho je vzdělávací kurz určen?
Tento vzdělávací kurz je určen pro:
- Inženýry v oblasti AI a strojového učení odpovědné za vývoj, nasazení nebo údržbu systémů AI
- Odborníky na kyberbezpečnost a informační bezpečnost, kteří chtějí rozšířit své odborné znalosti o hrozby a obranné mechanismy specifické pro AI
- Analytiky SOC a odborníky na zpravodajství o hrozbách pracující v bezpečnostních prostředích využívajících AI
- Architekty a konzultanty v oblasti IT bezpečnosti, kteří navrhují nebo přezkoumávají architektury systémů AI
- Odborníky na management rizik a dodržování předpisů, kteří pracují s rámcem správy a řízení AI a regulačními požadavky
- Datové vědce a vývojáře AI, kteří chtějí uplatňovat bezpečnostní postupy v průběhu celého životního cyklu vývoje AI
- Technologické manažery a technické vedoucí odpovědné za bezpečnostní strategii AI a řízení programů
PECB nabízí různé formáty vzdělávacích kurzů, od tradičních prezenčních kurzů až po moderní, technologicky orientovaná řešení. Chcete-li se o těchto formátech dozvědět více, klikněte prosím zde.
Předpoklady
Od uchazečů se očekává pevný základ v klíčových konceptech kyberbezpečnosti a informační bezpečnosti. Očekává se znalost obecných bezpečnostních principů, včetně modelování hrozeb, Řízení přístupu, reakce na incidenty a monitorování bezpečnosti. Očekává se také základní porozumění fungování systémů strojového učení, včetně znalosti pojmů, jako je trénování modelů, datové potrubí a služby založené na API.
Program kurzu
1. DEN | Základy AI, ML a hlubokého učení
2. DEN | Architektura LLM, trénovací pracovní postupy a taktiky útoků
3. DEN | Bezpečnostní opatření v oblasti AI a strategie zmírňování rizik
4. DEN | Detekce, reakce a bezpečné nasazení
5. DEN | Certifikační zkouška
Školicí materiály
Účastník obdrží prostřednictvím účtu PECB školicí materiály v elektronické podobě obsahující více než 320 stran informací a praktických příkladů. V rámci prezenčního kurzu obdrží účastník také tištěné školicí materiály.
Zkouška
Zkouška „PECB Certified EU AI Governance Professional“ plně splňuje požadavky programu zkoušek a certifikace PECB (ECP). Zahrnuje následující oblasti kompetencí:
- Oblast 1: Základy bezpečnosti pro AI a ML
- Oblast 2: Techniky útoků na AI a nepřátelské hrozby
- Oblast 3: Bezpečnostní opatření pro AI a obranné operace
- Oblast 4: Bezpečnostní analýza a informace o hrozbách vylepšené pomocí AI
- Oblast 5: Správa AI, management rizik a bezpečná architektura
Konkrétní informace o typu zkoušky, dostupných jazycích a dalších podrobnostech naleznete v Seznamu zkoušek PECB a v Pravidlech a politikách zkoušek.
Cena
Cena zahrnuje účast na kurzu, elektronické školicí materiály, poplatek za zkoušku a certifikační poplatek PECB. Cena prezenčního kurzu navíc zahrnuje tištěnou kopii školicích materiálů, oběd v dnech školení a občerstvení.
Certifikace
Po úspěšném složení zkoušky můžete požádat o jednu z certifikací uvedených v tabulce níže. Certifikát obdržíte, jakmile splníte všechny požadavky vybrané certifikace. Další informace o certifikačním procesu PECB naleznete v Pravidlech a politikách certifikace.
Požadavky na certifikaci pro EU AI Governance Professional jsou:
