Koncom roka 2023 bola vydaná úplne nová norma ISO/IEC 42001:2023 Informačné technológie – Umelá inteligencia – Systém manažmentu, ktorá špecifikuje požiadavky a poskytuje odporúčania na vytvorenie, implementáciu, údržbu a neustále zlepšovanie systému manažmentu umelej inteligencie (AIMS). Norma sa vzťahuje na všetky organizácie, ktoré poskytujú alebo používajú produkty alebo služby využívajúce systémy umelej inteligencie.
Systém umelej inteligencie je „technický systém, ktorý generuje výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia pre daný súbor cieľov definovaných človekom“.
Umelá inteligencia (AI) má obrovský potenciál na podporu hospodárstva a spoločnosti v mnohých odvetviach a v celom spoločenskom živote. AI však so sebou prináša aj nové riziká. Preto s rozvojom systémov AI rastie potreba účinnej štandardizácie a regulácie, aby sa zabezpečilo jej zodpovedné využívanie.
Systém manažmentu umelej inteligencie (AIMS) vytvára prostredie, ktoré pomáha organizáciám zodpovedne plniť ich úlohy vo vzťahu k systémom umelej inteligencie (napr. používať, vyvíjať, monitorovať alebo dodávať produkty) a ponúka systematický a integrovaný prístup k riadeniu projektov umelej inteligencie, od stanovenia cieľov, hodnotenia rizík a vplyvov až po účinné riešenie týchto rizík.
AIMS sa vzťahuje na všetky organizácie, ktoré vyvíjajú, poskytujú alebo používajú produkty alebo služby využívajúce systém umelej inteligencie. Je preto potenciálne uplatniteľný na veľký počet produktov a služieb v rôznych odvetviach, ktoré podliehajú povinnostiam (napr. pozri Akt o UI), osvedčeným postupom, očakávaniam alebo zmluvným záväzkom voči zainteresovaným stranám. Príkladmi odvetví sú napr:
- zdravotné a sociálne služby,
- obrana a vnútorná bezpečnosť,
- doprava,
- financie a poistenie,
- zamestnanie,
- energia.
Akt o umelej inteligencii
AKT O UMELEJ INTELIGENCII (NARIADENIE EURÓPSKEHO PARLAMENTU A RADY, KTORÝM SA USTANOVUJÚ HARMONIZOVANÉ PRAVIDLÁ PRE UMELÚ INTELIGENCIU A MENIA A DOPĹŇAJÚ NIEKTORÉ PRÁVNE AKTY ÚNIE) stanovuje a) harmonizované pravidlá pre uvádzanie systémov umelej inteligencie na trh a do prevádzky a pre ich používanie v Únii; b) zákaz určitých praktík v oblasti umelej inteligencie; (c) osobitné požiadavky na vysoko rizikové systémy UI a povinnosti prevádzkovateľov takýchto systémov; d) harmonizované pravidlá transparentnosti pre systémy UI určené na interakciu s fyzickými osobami, pre systémy rozpoznávania emócií a pre systémy biometrickej kategorizácie, ako aj pre systémy UI používané na vytváranie alebo manipuláciu s obrazovým, zvukovým alebo video obsahom; e) pravidlá monitorovania trhu a dohľadu nad ním.
Vysoko rizikové systémy umelej inteligencie sú definované ako systémy v týchto oblastiach:
- Biometrická identifikácia a kategorizácia fyzických osôb
- Manažment a prevádzka kritickej infraštruktúry
- Vzdelávanie a odborná príprava
- Zamestnávanie, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti
- Prístup k základným súkromným a verejným službám a výhodám
- Orgány činné v trestnom konaní
- Migrácia, azyl a riadenie hraníc
- Súdna správa a demokratické procesy
V zákone o UI sa okrem iného vyžaduje, aby vysokorizikové systémy UI spĺňali požiadavky nariadenia, mali zavedený systém manažment rizík, používali vysokokvalitné školenia, validáciu a testovacie údaje alebo viedli technickú dokumentáciu a príslušné záznamy.
Poskytovatelia vysokorizikových systémov UI musia mať okrem iného zavedený systém manažmentu kvality, ktorý spĺňa príslušné požiadavky nariadenia.
Štruktúra normy
Norma ISO/IEC 42001 používa harmonizovanú štruktúru (rovnaké čísla článkov, názvy článkov, text a spoločné termíny a základné definície), ktorá bola vyvinutá na zvýšenie konzistentnosti medzi normami systémov manažérstva (MSS). Tento spoločný prístup uľahčuje implementáciu a súlad s inými normami systému manažérstva.
- Kapitola 4: Kontext organizácie
- Kapitola 5: Vedenie a záväzok
- Kapitola 6: Plánovanie
- Kapitola 7: Podpora
- Kapitola 8: Prevádzka
- Kapitola 9: Hodnotenie výkonu
- Kapitola 10: Zlepšenie
Norma obsahuje 4 prílohy, 2 normatívne a 2 informatívne.
- Príloha A (normatívna): referenčné ciele pre opatrenia a činnosti, ktoré majú organizácie používať na manažmentu rizík a dosiahnutie cieľov v oblasti umelej inteligencie.
- Príloha B (normatívna): Usmernenia na vykonávanie opatrení uvedených v prílohe A na dosiahnutie cieľov opatrení.
- Príloha C (informatívna): Potenciálne organizačné ciele a zdroje rizika súvisiace s UI, ktoré sa majú zohľadniť v procese manažmentu rizík.
- Príloha D (informatívna): Používanie systému manažmentu umelých inteligencií v rôznych oblastiach alebo sektoroch
Integrácia systému manažmentu umelej inteligencie s inými normami systému manažmentu
Pri poskytovaní alebo používaní systémov umelej inteligencie môže mať organizácia ciele alebo povinnosti súvisiace s aspektmi, na ktoré sa vzťahujú iné normy systému manažmentu, najmä pokiaľ ide o informačnú a kybernetickú bezpečnosť, súkromie, kvalitu. Tieto témy sú zahrnuté v normách:
- ISO/IEC 27001 – Požiadavky na systémy manažmentu bezpečnosti informácií (ISMS)
- ISO/IEC 27701 – Požiadavky a usmernenia na rozšírenie noriem ISO/IEC 27001 a ISO/IEC 27002 na manažmentu ochrany osobných údajov
- ISO 9001 – požiadavky na systémy manažérstva kvality
Norma ISO/IEC 42001 používa harmonizovanú štruktúru (rovnaké čísla článkov, názvy článkov, text a spoločné termíny a základné definície), ktorá bola vyvinutá na zvýšenie konzistentnosti medzi normami systémov manažérstva (MSS). Tento spoločný prístup uľahčuje implementáciu a súlad s inými normami systému manažérstva.