Etický kódex pre vývoj, implementáciu a používanie umelej inteligencie na Slovensku

Asociácia AI (ASAI) oficiálne predstavila Etický kódex pre vývoj, implementáciu a používanie umelej inteligencie na Slovensku – prvý dokument svojho druhu v krajine. Kódex vznikol ako výsledok intenzívnej spolupráce expertnej komisie ASAI a je míľnikom v úsilí o zodpovedný a transparentný prístup k umelej inteligencii na národnej úrovni.

Etický kódex pre vývoj, implementáciu a používanie umelej inteligencie na Slovensku

PREAMBULA

(A) Tento etický kódex predstavuje rámec hodnôt a princípov, ktorými sa riadia subjekty navrhujúce, vyvíjajúce, nasadzujúce a využívajúce systémy umelej inteligencie (AI) na Slovensku. Cieľom je podporiť dôveryhodný, transparentný a zodpovedný prístup k AI, ktorý rešpektuje základné ľudské práva a slobody, verejný záujem, spoločenskú rovnosť a environmentálnu udržateľnosť a zároveň poskytnúť pevný základ pre tvorbu národných priemyselných štandardov v oblasti umelej inteligencie.

(B) Tento etický kódex je vytvorený v súlade s medzinárodne uznávanými rámcami, ako sú Princípy OECD pre dôveryhodnú AI, Odporúčanie UNESCO o etike AI, Rámcový dohovor Rady Európy o umelej inteligencii a ďalšie medzinárodné iniciatívy vrátane zásad OSN a G7, ako aj s Nariadením EÚ AI Act.

1. ZÁSADY ETICKÉHO A ODBORNÉHO POSTUPU

1.1 Zodpovednosť

Subjekty vykonávajú opatrenia na zohľadnenie dopadov AI systémov na jednotlivcov, spoločnosť a životné prostredie počas celého ich životného cyklu. Pri vývoji a prevádzke AI sa prihliada na environmentálne dopady, spoločenský prospech a súlad s platnou legislatívou.

1.2 Transparentnosť a zrozumiteľnosť 

Pri navrhovaní a používaní AI sa uplatní transparentný prístup. Používateľ bude informovaný o použití AI, jeho funkciách aj obmedzeniach. Rozhodovacie mechanizmy AI budú zrozumiteľné aj pre neodborných používateľov. Transparentnosť sa zabezpečuje aj vo vzťahu k obchodným partnerom, dodávateľom, klientom a regulačným orgánom.

1.3 Bezpečnosť a spoľahlivosť

AI systémy budú pravidelne testované, monitorované a aktualizované. Subjekty aplikujú mechanizmy na zabezpečenie robustnosti, predchádzanie zlyhaniam a minimalizáciu zneužitia.

1.4 Ochrana súkromia a osobných údajov

Spracúvanie údajov bude prebiehať v súlade s platnou legislatívou, najmä GDPR. Subjekty budú dodržiavať najmä zásady minimalizácie spracúvania a uchovávania údajov a zabezpečenia ochrany údajov.

1.5 Súlad s aktuálnym právnym poriadkom a nediskriminácia Pri vývoji a nasadzovaní AI sa zabezpečí predchádzanie zaujatosti a diskriminácii. Subjekty budú tieto systémy testovať na prítomnosť skreslení, zaujatosti a diskriminačných prvkov.

Testovanie bude prebiehať v rôznych fázach životného cyklu systémov tak, aby bolo predchádzanie zaujatosti a diskriminácii zachované počas celého životného cyklu systému. Výsledky AI systémov sa budú pravidelne revidovať z hľadiska súladu s aktuálnym právnym poriadkom a ochranou ľudských práv.

1.6 Ľudská kontrola a dohľad

AI systémy musia umožňovať primeranú ľudskú kontrolu, zásah a možnosť korekcie alebo vypnutia systému.

2. RIZIKOVO ORIENTOVANÝ PRÍSTUP PODĽA AI ACT

Subjekty identifikujú úroveň rizika každého AI systému podľa kategórií a vykonajú minimálne nasledujúce činnosti:

a) Minimálne riziko: ak je to vhodné, vykoná sa základné informovanie používateľov;
b) Obmedzené riziko: uplatní sa označenie systému ako AI riešenie a poskytne popis jeho funkcie a limitácií;
c) Vysoké riziko: zdokumentuje sa vývoj a prevádzka systému, zabezpečí sa ľudský dohľad, prijmú sa opatrenia na ochranu práv a zaistí sa školenie personálu;
d) Zakázané praktiky: takéto systémy sa nebudú vyvíjať ani používať.

3. PROFESIONALITA A INTEGRITA

3.1 Etická integrita

AI systémy sa nebudú využívať na manipuláciu, šírenie dezinformácií alebo klamlivé účely. Obsah generovaný AI sa komunikuje transparentne, pravdivo a zrozumiteľne.

3.2 Zodpovedná komunikácia

Pri prezentácii AI riešení sa uvádzajú relevantné informácie o schopnostiach, limitoch a pôvode systému.

3.3 Otvorená spolupráca

Subjekty, v rámci svojich skutočných možností, podporujú otvorenú spoluprácu, zdieľanie poznatkov a zapojenie do odborného dialógu v rámci vedeckej, kultúrnej, technologickej a etickej komunity.

4. DEEPFAKE A OZNAČOVANIE GENEROVANÉHO OBSAHU

Každý subjekt, ktorý vytvára alebo distribuuje obsah vytvorený alebo upravený AI spôsobom, ktorý simuluje autentický výstup osoby (obraz, hlas, vyjadrenie), tento obsah jednoznačne, trvalo a zrozumiteľne označí.

4.1 Subjekt:

(a) aplikuje minimálne jeden z nasledovných spôsobov označovania:
➢ viditeľný vodoznak priamo v obsahu (napr. „AI generované“ alebo „AI upravené“);
➢ vloženie informácie o AI pôvode do metadát (napr. EXIF, IPTC, XMP);
➢ sprievodné textové alebo audio upozornenie v blízkosti obsahu.
(b) zabezpečí, aby označenie nebolo bežnými prostriedkami odstrániteľné alebo skryté;
(c) doplní formy označenia tak, aby boli zrozumiteľné aj pre osoby so zrakovým alebo sluchovým znevýhodnením (napr. alternatívny text, titulky, zvukové hlásenie);
(d) informuje všetky subjekty v reťazci distribúcie o AI pôvode obsahu a potrebe zachovať označenie;
(e) bude priebežne kontrolovať efektivitu označovania a predchádzať obchádzaniu tohto označenia.

4.2 Výnimky

(a) Označenie sa nevyžaduje pri systémoch AI, ktoré sa používajú v súlade so zákonom na odhaľovanie, prevenciu, vyšetrovanie alebo stíhanie trestných činov, za predpokladu, že sú zavedené primerané záruky ochrany práv a slobôd tretích strán. Táto výnimka sa vzťahuje aj na systémy, ktoré nie sú sprístupnené verejnosti na účely oznamovania trestných činov;
(b) Povinnosť označovania sa neuplatňuje, ak systém AI plní pomocnú funkciu pri bežných redakčných úpravách (napr. korektúra, formátovanie) alebo ak zásadným spôsobom nemení vstupné údaje či ich význam (sémantiku), ako boli poskytnuté nasadzujúcim subjektom;
(c) Pri textoch určených na informovanie verejnosti o záležitostiach verejného záujmu sa označenie nevyžaduje, ak obsah vygenerovaný alebo upravený systémom AI prešiel ľudskou alebo redakčnou kontrolou, a zároveň za jeho zverejnenie nesie redakčnú zodpovednosť identifikovateľná fyzická alebo právnická osoba;
(d) Ak je obsah súčasťou zjavne umeleckého, fiktívneho, satirického alebo obdobného kreatívneho diela, postačuje, ak je existencia umelo vytvoreného alebo upraveného obsahu zverejnená primeraným spôsobom, ktorý nebráni diváckemu, poslucháčskemu alebo čitateľskému zážitku z diela.

5. VEREJNÝ ZÁUJEM A SOCIÁLNA ZODPOVEDNOSŤ

5.1 Participácia a dialóg

Pri zavádzaní AI riešení sa zohľadní názor rôznych zainteresovaných strán vrátane verejnosti, občianskej spoločnosti a verejných inštitúcií. 

5.2 Ochrana zraniteľných skupín

Navrhované systémy budú posudzované z hľadiska dopadov na maloleté osoby, seniorov, osoby so zdravotným znevýhodnením a iné citlivé skupiny. Subjekt vykoná vhodné opatrenia na ochranu týchto skupín.

6. VZDELÁVANIE A OSVETOVÁ ČINNOSŤ

6.1 Zvyšovanie povedomia

Subjekty, v rámci svojich skutočných možností, zabezpečujú vzdelávanie o výhodách a rizikách AI, ako aj o spôsoboch jej zodpovedného využitia a to aspoň v legislatívne požadovanom štandarde.

6.2 Odborný rozvoj

Zamestnanci a spolupracovníci budú pravidelne školení v oblasti etiky, právneho rámca a technickej bezpečnosti AI.

7. IMPLEMENTÁCIA A REVÍZIA

7.1 Subjekt vykoná interný dohľad nad uplatňovaním tohto etického kódexu a reviduje interné pravidlá v súlade s jeho zásadami.
7.2 Tento etický kódex sa priebežne aktualizuje podľa vývoja technológií, regulácie a spoločenských očakávaní.
7.3 K návrhom na úpravy môžu prispieť odborné inštitúcie, občianske iniciatívy alebo subjekty pôsobiace v oblasti AI a členovia ASAI.

8. PRIPOJITEĽNOSŤ SEKTOROVÝCH KÓDEXOV

8.1 Tento etický kódex slúži ako východiskový rámec, na ktorý nadväzujú sektorové kódexy pre konkrétne oblasti (napr. médiá, zdravotníctvo, bankovníctvo, verejná správa).
8.2 Sektorové kódexy budú rozvíjať všeobecné zásady s ohľadom na odvetvové špecifiká a riziká, pričom tieto musia byť v súlade s týmto základným rámcom.

9. ZÁVEREČNÉ USTANOVENIA

Tento etický kódex predstavuje rámec tzv. mäkkého práva (soft law). Jeho uplatňovanie vyjadruje záväzok k zodpovednému vývoju a využívaniu AI v prospech spoločnosti, v súlade s princípmi definovanými medzinárodnými organizáciami ako OECD, UNESCO, OSN, G7 a Rada Európy