Systém umelej inteligencie je „technický systém, ktorý generuje výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia pre daný súbor cieľov definovaných človekom.“ Umelá inteligencia (AI) má obrovský potenciál na podporu hospodárstva a spoločnosti v širokej škále odvetví a spoločenského života. Umelá inteligencia však so sebou prináša nové riziká. Preto s rozvojom systémov AI rastie potreba účinnej štandardizácie a regulácie na zabezpečenie ich zodpovedného používania.
Zákon o umelej inteligencii
ZÁKON O UMELEJ INTELIGENCII (NARIADENIE EURÓPSKEHO PARLAMENTU A RADY, KTORÝM SA USTANOVUJÚ HARMONIZOVANÉ PRAVIDLÁ PRE UMELÚ INTELIGENCIU A MENÍ A DOPĹŇA NIEKTORÉ PRÁVNE AKTY ÚNIE) stanovuje: a) harmonizované pravidlá uvádzania systémov umelej inteligencie na trh a ich prevádzky a ich používania v Únii; b) zákaz určitých praktík v oblasti umelej inteligencie; (c) osobitné požiadavky na vysoko rizikové systémy UI a povinnosti prevádzkovateľov takýchto systémov; d) harmonizované pravidlá transparentnosti pre systémy UI určené na interakciu s fyzickými osobami, pre systémy rozpoznávania emócií a pre systémy biometrickej kategorizácie, ako aj pre systémy UI používané na vytváranie alebo manipuláciu s obrazovým, zvukovým alebo video obsahom; e) pravidlá monitorovania trhu a dohľadu nad ním.
Vysoko rizikové systémy UI znamenajú systémy v týchto oblastiach:
- Biometrická identifikácia a kategorizácia fyzických osôb
- Riadenie a prevádzka kritickej infraštruktúry
- Vzdelávanie a odborná príprava
- Zamestnanosť, riadenie pracovnej sily a prístup k samostatnej zárobkovej činnosti
- Prístup k základným súkromným a verejným službám a dávkam
- Vymáhanie práva
- Migrácia, azyl a riadenie hraníc
- Výkon spravodlivosti a demokratické procesy
V zákone o UI sa okrem iného vyžaduje, aby vysokorizikové systémy UI boli v súlade s nariadením, mali zavedený systém manažmentu rizík, používali kvalitnú odbornú prípravu, validáciu a testovacie údaje alebo viedli technickú dokumentáciu a príslušné záznamy.
Poskytovatelia vysokorizikových systémov UI musia mať okrem iného zavedený systém manažmentu kvality, ktorý spĺňa príslušné požiadavky nariadenia.
ISO/IEC 42001
V norme ISO/IEC 42001 sa špecifikujú požiadavky a poskytujú usmernenia na zavedenie, implementáciu, údržbu a neustále zlepšovanie systému riadenia UI organizácie. Norma ISO/IEC 42001 má pomôcť organizácii zodpovedne vyvíjať, poskytovať alebo používať systémy UI na splnenie jej cieľov a splnenie príslušných požiadaviek, povinností a očakávaní zainteresovaných strán. Je uplatniteľná na všetky organizácie, ktoré poskytujú alebo používajú produkty alebo služby využívajúce systémy UI.
Systém manažmentu umelej inteligencie podľa normy ISO/IEC 42001
Manažment a správu systémov umelej inteligencie možno zabezpečiť pomocou systému manažmentu umelej inteligencie (AIMS) založeného na norme ISO/IEC 42001. AIMS poskytuje prostredie, ktoré pomáha organizáciám zodpovedne plniť ich úlohy vo vzťahu k systémom umelej inteligencie (napr. používať, vyvíjať, monitorovať alebo poskytovať produkty).
Prínosy systému AIMS pre organizáciu
- Zvýšenie dôveryhodnosti a konkurencieschopnosti organizácie
- Posilnenie dlhodobej odolnosti organizácie
- Zníženie rizík pre podnik a vplyv na jednotlivcov, skupiny alebo spoločnosti v súvislosti so systémami UI
- Efektívne vedenie organizácie a zvýšenie návratnosti investícií
- Súlad s regulačnými, zmluvnými a inými spoločenskými potrebami a očakávaniami
Rozsah našich odborných služieb
1 | Analýza existujúceho systému a plánovanie projektu ISMS
Analýza kontextu organizácie a analýza nedostatkov súčasného stavu • Vypracovanie plánu projektu AIMS
2 | Vývoj a implementácia systému AIMS
Identifikácia a opis hraníc a rozsahu AIMS • Definovanie organizačnej štruktúry, úloh a zodpovedností jednotlivcov a príslušných výborov • Návrh politiky AIMS • Nastavenie a zdokumentovanie procesov AIMS
3 | Manažment rizík a manažment opatrenia
Výber a dokumentácia metodiky manažment rizík • Identifikácia, analýza a hodnotenie rizík • Výber možností a opatrení na ošetrenie rizík • Vypracovanie vyhlásenia o uplatniteľnosti (SoA) • Manažment plánov ošetrenia rizík • Posúdenie vplyvu systémov UI
4 | Dokumentácia politík a postupov špecifických pre danú tému
Návrh štruktúry a manažment dokumentácie AIMS • Návrh a dokumentácia politík a postupov špecifických pre danú tému • Podpora implementácie niektorých opatrení • Návrh a realizácia činností v oblasti odbornej prípravy a zvyšovania povedomia
5 | Podpora interného auditu, auditu dodávateľov a certifikačného auditu
Návrh a dokumentácia stavu interného auditu AIMS • Návrh programu auditu AIMS a plánovanie audítorských činností • Realizácia interného auditu a auditu dodávateľa • Podpora následných činností a opatrení po ukončení auditu • Príprava certifikačného auditu a podpora certifikačného auditu
Používanie pokročilých aplikácií GRC
Zložitosť implementácie procesov AIMS sa zvyšuje s veľkosťou organizácie a vyspelosťou ISMS a bezpečnostných opatrení. V prípade zložitých organizácií s komplexnými systémami manažment odporúčame používať pokročilé modulárne nástroje.
Viac informácií nájdete v časti Aplikácie.
Kvalita našich služieb
Pri poskytovaní konzultačných služieb sa uplatňujú normy kvality pre konzultačné služby podľa ISO 20700, informačnú bezpečnosť podľa ISO/IEC 27001 a projektového manažmentu podľa ISO 21502. Kompetencie našich konzultantov:
- Certifikovaný vedúci implementátor ISO/IEC 42001.
Pri vykonávaní interného auditu (audit prvej strany) alebo externého auditu tretej strany (audit druhej strany) sa uplatňujú osvedčené postupy pre auditovanie systémov manažérstva podľa normy ISO 19011 a ďalších príslušných noriem. Kompetencie našich audítorov: – audítor, ktorý vykonáva audit systémov manažérstva podľa normy ISO 19011:
- Certifikovaný vedúci audítor podľa normy ISO/IEC 42001 *
* v procese certifikácie.