Vzdelávací kurz „Certified Artificial Intelligence Security Professional“ (CAISP) poskytuje účastníkom vedomosti a zručnosti potrebné na zabezpečenie systémov umelej inteligencie počas celého ich životného cyklu.
Kurz sa zaoberá hrozbami špecifickými pre umelú inteligenciu, zraniteľnosťami, správou, riadením rizík a bezpečnostnými opatreniami v súlade s modernými osvedčenými postupmi v oblasti kyberbezpečnosti a umelej inteligencie. Vďaka kombinácii teórie a praktického uplatnenia sa účastníci naučia, ako chrániť modely umelej inteligencie, údaje, infraštruktúru a prevádzku pred novými hrozbami.
Kurz sa tiež zaoberá tým, ako možno umelú inteligenciu využiť ako obranný prostriedok, a zahŕňa bezpečnostné monitorovanie založené na umelej inteligencii, vyhľadávanie hrozieb, spravodajstvo o hrozbách a bezpečnostnú analýzu podporovanú umelou inteligenciou.
Prečo sa zúčastniť kurzu?
Systémy umelej inteligencie so sebou prinášajú bezpečnostné riziká, ktoré ďaleko presahujú rámec tradičných opatrení v oblasti kyberbezpečnosti. Na rozdiel od bežného softvéru je možné systémy umelej inteligencie manipulovať prostredníctvom ich vstupných údajov, poškodiť pomocou trénovacích dát, ohroziť prostredníctvom ich dodávateľských reťazcov a zneužiť pomocou nástrojov a oprávnení, ktoré im sú udelené – často spôsobom, ktorý nezanecháva žiadne stopy v štandardných bezpečnostných protokoloch. Bezpečnostní experti, ktorí pracujú so systémami umelej inteligencie alebo v ich okolí, potrebujú zásadne odlišný súbor kompetencií ako tí, ktorí chránia tradičné IT prostredie, a tento kurz je navrhnutý práve na budovanie týchto kompetencií.
V tomto vzdelávacom kurze si účastníci osvoja dôkladné pochopenie toho, ako sú systémy umelej inteligencie napádané, ako sa proti nim brániť a ako ich spravovať, a to od základných konceptov bezpečnosti umelej inteligencie až po praktické aplikácie.
Vzdelávací kurz zahŕňa laboratórne cvičenia, ktoré účastníkom poskytnú priame skúsenosti s reálnymi nástrojmi a technikami zabezpečenia umelej inteligencie, vrátane testovania vkladania promptov, red teamingu v oblasti umelej inteligencie, pracovných postupov v oblasti spravodajstva o hrozbách a analýzy malvéru pomocou nástrojov reverzného inžinierstva podporovaných umelou inteligenciou. Tieto laboratórne cvičenia sú navrhnuté tak, aby posilnili technický obsah každej časti a zabezpečili, že účastníci kurz opustia s zručnosťami, ktoré môžu okamžite uplatniť vo svojich profesijných rolách.
Na konci kurzu budú účastníci schopní posúdiť bezpečnostný stav systémov umelej inteligencie, zaviesť vhodné opatrenia, reagovať na bezpečnostné incidenty v oblasti umelej inteligencie a podporovať správu umelej inteligencie a plnenie povinností v oblasti dodržiavania predpisov vo svojej organizácii.
Pre koho je tento vzdelávací kurz určený?
Tento vzdelávací kurz je určený pre:
- Inžinieri v oblasti umelej inteligencie a strojového učenia zodpovední za vývoj, nasadenie alebo údržbu systémov umelej inteligencie
- Odborníci na kyberbezpečnosť a informačnú bezpečnosť, ktorí si chcú rozšíriť svoje odborné znalosti o hrozbách a obranných mechanizmoch špecifických pre umelú inteligenciu
- Analytici SOC a odborníci na spravodajstvo o hrozbách pracujúci v bezpečnostných prostrediach využívajúcich umelú inteligenciu
- Architekti a konzultanti v oblasti IT bezpečnosti, ktorí navrhujú alebo posudzujú architektúry systémov umelej inteligencie
- Odborníci na riadenie rizík a dodržiavanie predpisov, ktorí pracujú s rámcom správy a riadenia umelej inteligencie a s regulačnými požiadavkami
- Dátoví vedci a vývojári umelej inteligencie, ktorí chcú uplatňovať bezpečnostné postupy počas celého životného cyklu vývoja umelej inteligencie
- Technologickí manažéri a technickí vedúci zodpovední za bezpečnostnú stratégiu umelej inteligencie a riadenie programov
PECB ponúka rôzne formáty vzdelávacích kurzov, od tradičných prezenčných kurzov až po moderné, technologicky orientované riešenia. Ak sa chcete o týchto formátoch dozvedieť viac, kliknite, prosím,sem.
Predpoklady
Od uchádzačov sa očakáva pevný základ v kľúčových koncepciách kyberbezpečnosti a informačnej bezpečnosti. Očakáva sa znalosť všeobecných bezpečnostných princípov, vrátane modelovania hrozieb, riadenia prístupu, reakcie na incidenty a monitorovania bezpečnosti. Očakáva sa tiež základné pochopenie fungovania systémov strojového učenia, vrátane znalosti pojmov, ako je trénovanie modelov, dátové potrubia a služby založené na API.
Program kurzu
1. DEŇ | Základy umelej inteligencie, strojového učenia a hlbokého učenia
2. DEŇ | Architektúra LLM, postupy pri tréningu a taktiky útokov
3. DEŇ | Bezpečnostné opatrenia v oblasti umelej inteligencie a stratégie zmierňovania rizík
4. DEŇ | Detekcia, reakcia a bezpečné nasadenie
5. DEŇ | Certifikačná skúška
Vzdelávacie materiály
Účastník dostane prostredníctvom účtu PECB školiace materiály v elektronickej podobe, ktoré obsahujú viac ako 320 strán informácií a praktických príkladov. V rámci prezenčného kurzu dostane účastník aj tlačené školiace materiály.
Skúška
Skúška „PECB Certified EU AI Governance Professional“ v plnej miere spĺňa požiadavky programu skúšok a certifikácie PECB (ECP). Zahŕňa nasledujúce oblasti kompetencií:
- Oblasť 1: Základy bezpečnosti v oblasti umelej inteligencie a strojového učenia
- Oblasť 2: Techniky útokov na umelú inteligenciu a nepriateľské hrozby
- Oblasť 3: Bezpečnostné opatrenia pre umelú inteligenciu a obranné operácie
- Oblasť 4: Bezpečnostná analýza a informácie o hrozbách vylepšené pomocou umelej inteligencie
- Oblasť 5: Správa umelej inteligencie, riadenie rizík a bezpečná architektúra
Konkrétne informácie o type skúšky, dostupných jazykoch a ďalších podrobnostiach nájdete vZozname skúšok PECBa vPravidlách a zásadách skúšok.
Cena
Cena zahŕňa účasť na kurze, elektronické školiace materiály, poplatok za skúšku a certifikačný poplatok PECB. Cena prezenčného kurzu navyše zahŕňa tlačenú kópiu školiacich materiálov, obed v dňoch školenia a občerstvenie.
Certifikácia
Po úspešnom zložení skúšky môžete požiadať o jednu z certifikácií uvedených v tabuľke nižšie. Certifikát obdržíte hneď, ako splníte všetky požiadavky vybranej certifikácie. Ďalšie informácie o certifikačnom procese PECB nájdete vPravidlách a zásadách certifikácie.
Požiadavky na certifikáciu EU AI Governance Professional sú:
