Systém umělé inteligence je “inženýrský systém, který generuje výstupy, jako je obsah, předpovědi, doporučení nebo rozhodnutí pro daný soubor cílů definovaných člověkem”.
Umělá inteligence (AI) má obrovský potenciál podpořit ekonomiku a společnost v celé řadě odvětví a společenského života. Umělá inteligence však sebou přináší nová rizika. Proto s rozvojem systémů umělé inteligence roste potřeba účinné standardizace a regulace, která zajistí její odpovědné využívání.
Akt o umělé inteligenci
AKT O UMĚLÉ INTELIGENCI (NAŘÍZENÍ EVROPSKÉHO PARLAMENTU A RADY, KTERÝM SE STANOVÍ HARMONIZOVANÁ PRAVIDLA PRO UMĚLOU INTELIGENCI A MĚNÍ URČITÉ LEGISLATIVNÍ AKTY UNIE) stanovuje (a) harmonizovaná pravidla pro uvádění systémů UI na trh a do provozu a pro jejich používání v Unii; (b) zákaz určitých postupů v oblasti umělé inteligence; (c) zvláštní požadavky na vysoce rizikové systémy UI a povinnosti provozovatelů těchto systémů; (d) harmonizovaná pravidla transparentnosti pro systémy UI určené k interakci s fyzickými osobami, pro systémy rozpoznávání emocí a pro systémy biometrické kategorizace, jakož i pro systémy UI používané k vytváření obrazového, zvukového nebo video obsahu nebo k manipulaci s ním; (e) pravidla monitorování trhu a dozoru nad ním.
Vysoce rizikovými systémy UI se rozumí systémy z těchto oblastí:
- Biometrická identifikace a kategorizace fyzických osob
- Řízení a provozování kritické infrastruktury
- Vzdělávání a odborná příprava
- Zaměstnávání, řízení pracovníků a přístup k samostatné výdělečné činnosti
- Přístup k základním soukromým a veřejným službám a dávkám
- Prosazování práva
- Migrace, azyl a správa hraničních kontrol
- Správa soudnictví a demokratické procesy
Akt o umělé inteligenci mimo jiné vyžaduje, aby vysoce rizikové systémy UI byly v souladu s nařízením, byl zaveden systém řízení rizik, byla používána kvalitní tréninková, ověřovací i testovací data nebo byla vedena technická dokumentace a příslušné záznamy.
Poskytovatelé vysoce rizikových systémů UI musí mít mj. zaveden systém managementu kvality, který splňuje příslušné požadavky nařízení.
Norma ISO/IEC 42001
Norma ISO/IEC 42001 specifikuje požadavky a poskytuje návod pro vytvoření, implementaci, udržování a neustálé zlepšování systému managementu umělé inteligence v organizaci.
Norma ISO/IEC 42001 má organizaci pomoci odpovědně vyvíjet, poskytovat nebo používat systémy umělé inteligence při plnění jejích cílů a splnit příslušné požadavky, povinnosti související se zainteresovanými stranami a očekávání od nich. Je použitelná pro jakoukoli organizaci, která poskytuje nebo používá produkty nebo služby využívající systémy umělé inteligence.
Systém managementu umělé inteligence dle ISO/IEC 42001
Governance a management systémů UI lze zajistit s využitím systému managementu umělé inteligence (AIMS) na bázi normy ISO/IEC 42001.
AIMS vytváří prostředí, které pomáhá organizacím zodpovědně plnit jejich úlohu ve vztahu k systémům UI (např. používat, vyvíjet, monitorovat nebo poskytovat produkty) a nabízí systematický a integrovaný přístup k řízení projektů umělé inteligence, od posouzení rizik až po účinné řešení těchto rizik.
Přínosy AIMS pro organizaci
- Zvýšení důvěryhodnosti a konkurenceschopnosti organizace
- Posílení dlouhodobé odolnosti organizace
- Snížení rizik pro podniky i dopadů na jednotlivce, skupiny nebo společnosti spojených se systémy UI
- Efektivní vedení organizace a vyšší rentabilita investic
- Soulad s požadavky regulatorních, smluvních a jiných společenských potřeb a očekávání
Předmět našich odborných služeb
1 | Analýza stávajícího systému a plánování AIMS projektu
Analýza kontextu organizace a rozdílová analýza současného stavu • Zpracování plánu projektu AIMS
2 | Vytvoření a zavedení AIMS
Identifikace a popis hranic a rozsahu AIMS • Definování organizační struktury, rolí a odpovědností osob a příslušných výborů • Návrh politiky UI • Nastavení a dokumentace procesů AIMS
3 | Management rizik a management opatření
Výběr a dokumentace metodiky pro management rizik • Identifikace, analýza a hodnocení rizik • Výběr možností a opatření pro ošetření rizik • Zpracování prohlášení o aplikovatelnosti (SoA) • Management plánů pro ošetření rizik • Posouzení dopadů systémů UI
4 | Dokumentace tematicky specifických politik a postupů
Návrh struktury a management AIMS dokumentace • Návrh a dokumentace tematicky specifických politik a postupů • Podpora při zavádění některých opatření • Návrh a realizace aktivit školení a osvěty
5 | Interní audit, audit dodavatelů a podpora při certifikačním auditu
Návrh a dokumentace statutu interního auditu AIMS • Návrh programu auditu AIMS a plánování činností auditu • Realizace interního auditu a auditu dodavatelů • Podpora následných činností a opatření po auditu • Příprava na certifikační audit a podpora při certifikačním auditu
Využití pokročilých GRC aplikací
Náročnost realizace procesů AIMS roste s velikostí organizace i s vyspělostí ISMS a bezpečnostních opatření. Komplexním organizacím s komplexními systémy managementu doporučujeme využít pokročilé modulární nástroje.
Více informací naleznete v sekci Aplikace.
Kvalita našich služeb
V průběhu poskytování konzultačních služeb jsou uplatňovány standardy kvality konzultačních služeb dle ISO 20700, informační bezpečnosti dle ISO/IEC 27001 a projektového řízení dle ISO 21502.
Kompetence našich konzultantů:
- Certified ISO/IEC 42001 Lead Implementer
Při provádění interního auditu (audit první stranou) nebo externího auditu třetí strany (audit druhou stranou) je uplatňována nejlepší praxe auditování systémů řízení definovaná normou ISO 19011 a dalšími relevantními normami.
Kompetence našich auditorů:
- Certified ISO/IEC 42001 Lead Auditor *
* v procesu certifikace.