Umělá inteligence

Systém umělé inteligence je “inženýrský systém, který generuje výstupy, jako je obsah, předpovědi, doporučení nebo rozhodnutí pro daný soubor cílů definovaných člověkem”.

Umělá inteligence (AI) má obrovský potenciál podpořit ekonomiku a společnost v celé řadě odvětví a společenského života. Umělá inteligence však sebou přináší nová rizika. Proto s rozvojem systémů umělé inteligence roste potřeba účinné standardizace a regulace, která zajistí její odpovědné využívání.

Akt o umělé inteligenci

AKT O UMĚLÉ INTELIGENCI (NAŘÍZENÍ EVROPSKÉHO PARLAMENTU A RADY, KTERÝM SE STANOVÍ HARMONIZOVANÁ PRAVIDLA PRO UMĚLOU INTELIGENCI A MĚNÍ URČITÉ LEGISLATIVNÍ AKTY UNIE) stanovuje (a) harmonizovaná pravidla pro uvádění systémů UI na trh a do provozu a pro jejich používání v Unii; (b) zákaz určitých postupů v oblasti umělé inteligence; (c) zvláštní požadavky na vysoce rizikové systémy UI a povinnosti provozovatelů těchto systémů; (d) harmonizovaná pravidla transparentnosti pro systémy UI určené k interakci s fyzickými osobami, pro systémy rozpoznávání emocí a pro systémy biometrické kategorizace, jakož i pro systémy UI používané k vytváření obrazového, zvukového nebo video obsahu nebo k manipulaci s ním; (e) pravidla monitorování trhu a dozoru nad ním.

Vysoce rizikovými systémy UI se rozumí systémy z těchto oblastí:

  • Biometrická identifikace a kategorizace fyzických osob
  • Řízení a provozování kritické infrastruktury
  • Vzdělávání a odborná příprava
  • Zaměstnávání, řízení pracovníků a přístup k samostatné výdělečné činnosti
  • Přístup k základním soukromým a veřejným službám a dávkám
  • Prosazování práva
  • Migrace, azyl a správa hraničních kontrol
  • Správa soudnictví a demokratické procesy

Akt o umělé inteligenci mimo jiné vyžaduje, aby vysoce rizikové systémy UI byly v souladu s nařízením, byl zaveden systém řízení rizik, byla používána kvalitní tréninková, ověřovací i testovací data nebo byla vedena technická dokumentace a příslušné záznamy.

Poskytovatelé vysoce rizikových systémů UI musí mít mj. zaveden systém managementu kvality, který splňuje příslušné požadavky nařízení. 

Norma ISO/IEC 42001

Norma ISO/IEC 42001 specifikuje požadavky a poskytuje návod pro vytvoření, implementaci, udržování a neustálé zlepšování systému managementu umělé inteligence v organizaci.

Norma ISO/IEC 42001 má organizaci pomoci odpovědně vyvíjet, poskytovat nebo používat systémy umělé inteligence při plnění jejích cílů a splnit příslušné požadavky, povinnosti související se zainteresovanými stranami a očekávání od nich. Je použitelná pro jakoukoli organizaci, která poskytuje nebo používá produkty nebo služby využívající systémy umělé inteligence.

Systém managementu umělé inteligence dle ISO/IEC 42001

Governance a management systémů UI lze zajistit s využitím systému managementu umělé inteligence (AIMS) na bázi normy ISO/IEC 42001.

AIMS vytváří prostředí, které pomáhá organizacím zodpovědně plnit jejich úlohu ve vztahu k systémům UI (např. používat, vyvíjet, monitorovat nebo poskytovat produkty) a nabízí systematický a integrovaný přístup k řízení projektů umělé inteligence, od posouzení rizik až po účinné řešení těchto rizik.

Přínosy AIMS pro organizaci

  • Zvýšení důvěryhodnosti a konkurenceschopnosti organizace
  • Posílení dlouhodobé odolnosti organizace
  • Snížení rizik pro podniky i dopadů na jednotlivce, skupiny nebo společnosti spojených se systémy UI
  • Efektivní vedení organizace a vyšší rentabilita investic
  • Soulad s požadavky regulatorních, smluvních a jiných společenských potřeb a očekávání

Předmět našich odborných služeb

1 | Analýza stávajícího systému a plánování ISMS projektu

Analýza kontextu organizace a rozdílová analýza současného stavu Zpracování plánu projektu AIMS

2 | Vytvoření a zavedení AIMS

Identifikace a popis hranic a rozsahu AIMS Definování organizační struktury, rolí a odpovědností osob a příslušných výborů Návrh politiky UI Nastavení a dokumentace procesů AIMS

3 | Management rizik a management opatření 

Výběr a dokumentace metodiky pro management rizik Identifikace, analýza a hodnocení rizik Výběr možností a opatření pro ošetření rizik Zpracování prohlášení o aplikovatelnosti (SoA) Management plánů pro ošetření rizik Posouzení dopadů systémů UI

4 | Dokumentace tematicky specifických politik a postupů

Návrh struktury a management AIMS dokumentace Návrh a dokumentace tematicky specifických politik a postupů Podpora při zavádění některých opatření Návrh a realizace aktivit školení a osvěty

5 | Interní audit, audit dodavatelů a podpora při certifikačním auditu

Návrh a dokumentace statutu interního auditu AIMSNávrh programu auditu AIMS a plánování činností audituRealizace interního auditu a auditu dodavatelůPodpora následných činností a opatření po audituPříprava na certifikační audit a podpora při certifikačním auditu

Využití pokročilých GRC aplikací

Náročnost realizace procesů AIMS roste s velikostí organizace i s vyspělostí ISMS a bezpečnostních opatření. Komplexním organizacím s komplexními systémy managementu doporučujeme využít pokročilé modulární nástroje.

Více informací naleznete v sekci Aplikace.

Kvalita našich služeb

V průběhu poskytování konzultačních služeb jsou uplatňovány standardy kvality konzultačních služeb dle ISO 20700, informační bezpečnosti dle ISO/IEC 27001 a projektového řízení dle ISO 21502.

Kompetence našich konzultantů:

  • Certified ISO/IEC 42001 Lead Implementer

Při provádění interního auditu (audit první stranou) nebo externího auditu třetí strany (audit druhou stranou) je uplatňována nejlepší praxe auditování systémů řízení definovaná normou ISO 19011 a dalšími relevantními normami.

Kompetence našich auditorů:

  • Certified ISO/IEC 42001 Lead Auditor *

* v procesu certifikace. 

Máte zájem?


    Prohlášení o ochraně soukromí