Regulácia AI
S rýchlym pokrokom umelej inteligencie sa rozrastá aj diskusia o potrebe regulácií, ktoré by riadili jej využitie a vplyv na spoločnosť.
V Európskej únii sa táto debata nedávno posunula do praktickej roviny, keď v marci 2024 bola prijatá prvá komplexná legislatíva na svete týkajúca sa umelej inteligencie – „AI Act“ (AIA). V článku sa budeme venovať otázke, aký vplyv bude mať táto regulácia na budúci vývoj AI a jej aplikácií, a pozrieme sa na regulácie AI vo svete.
CIEĽ REGULÁCIE AI
Cieľom regulácie umelej inteligencie je využiť výhody AI a zároveň minimalizovať jej riziká a zabezpečiť, aby slúžila najlepším záujmom jednotlivcov i celej spoločnosti. Má garantovať, že systémy umelej inteligencie budú zabezpečené, transparentné, monitorované a nediskriminačné. Dozor nad AI by mal vykonávať ľudský faktor, nie automatizácia, s cieľom predchádzať možným negatívnym dôsledkom.
Dôležité je poznamenať, že aj pred prijatím tohto zákona existovali desiatky zákonov a smerníc, ktoré regulujú systémy AI - od ochrany osobných údajov a autorských práv po bezpečnosť a ďalšie. Odvetvia ako zdravotníctvo a financie majú vlastné špecifické regulácie používania AI.
DEFINOVANIE RIZÍK AI
Zákon EÚ o umelej inteligencii (AIA) určuje povinnosti pre poskytovateľov a užívateľov podľa stupňa rizika spojeného s používaním AI. Zákon definuje štyri úrovne rizika:
- Neprijateľné riziko (unacceptable risk)
- Vysoké riziko (high risk)
- Obmedzené riziko (limited risk)
- Minimálne alebo žiadne riziko (minimal risk)
Neprijateľné riziko: Systémy AI, ktoré sa považujú za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí, sú zakázané. Tieto zahŕňajú systémy na sociálne hodnotenie občanov, ako aj tie, ktoré manipulujú kognitívne správanie jednotlivcov alebo zraniteľných skupín, ako sú napríklad hlasom aktivované hračky podporujúce nebezpečné správanie detí.
Vysoké riziko: Do tejto kategórie patria systémy umelej inteligencie používané ako bezpečnostné prvky alebo súčasti výrobkov, ktoré podliehajú právnym predpisom EÚ. Tieto systémy sú aplikované v rôznych oblastiach vrátane biometrie, kritickej infraštruktúry, vzdelávania, zamestnanosti, prístupu k základným službám, presadzovania práva, imigrácie, výkonu spravodlivosti a demokratických procesov. Navyše, systémy AI, ktoré vytvárajú profily jednotlivcov, čo znamená automatizované spracúvanie osobných údajov na hodnotenie rôznych aspektov života osoby, ako sú pracovný výkon, ekonomická situácia, zdravotný stav, preferencie, záujmy, spoľahlivosť, správanie, poloha alebo pohyb, sú súčasťou tejto regulácie. Vývojári musia preukázať, že majú zavedené primerané systémy hodnotenia a zmierňovania rizík AI. Taktiež musia zabezpečiť, aby sa na učenie systému AI používali vysokokvalitné súbory údajov, a musia existovať záznamy o činnosti, aby sa zabezpečila interpretovateľnosť a dokumentovanie výsledkov. Majú viesť podrobnú dokumentáciu poskytujúcu všetky potrebné informácie o systéme a jeho účele, aby regulačné orgány mohli posúdiť jeho súlad.
Obmedzené riziko: Pri používaní systémov AI, ako sú chatboty, je dôležité, aby ľudia boli informovaní o tom, že komunikujú so strojom, aby mohli urobiť informované rozhodnutie o pokračovaní alebo ukončení interakcie. Zákon tiež požaduje, aby poskytovatelia týchto systémov zabezpečili, že obsah generovaný umelou inteligenciou bude identifikovateľný.
Minimálne alebo žiadne riziko: Zákon umožňuje používanie systémov AI s minimálnym rizikom, čo znamená, že vývojári všeobecne nemusia prijímať dodatočné opatrenia na zabezpečenie súladu systémov, ktoré nasadzujú. Sem patria napríklad videohry s umelou inteligenciou alebo filtre nevyžiadanej pošty.
DOPAD REGULÁCIE
Nájdenie rovnováhy medzi podporou technologického pokroku a zároveň zabezpečením ochrany práv a bezpečnosti občanov je komplexná úloha. Panuje obava, že nadmerné regulácie by mohli spomaľovať inovačné snahy a tým oslabiť konkurencieschopnosť firiem, ktoré sa zaoberajú AI. Toto je obzvlášť dôležité v globálnom meradle, keďže firmy pôsobiace v krajinách s menej striktnými reguláciami by mohli mať konkurenčnú výhodu. Európske asociácie v oblasti IT na tento problém poukazujú. Nemecké združenie pre umelú inteligenciu napríklad vydalo varovanie, že AIA by v súčasnej forme mohlo negatívne ovplyvniť európsky AI ekosystém a potenciálne by mohlo viesť ku konkurenčnej nevýhode, hlavne voči súperom z USA a Číny.
Väčšina ustanovení sa začne uplatňovať 24 mesiacov po nadobudnutí účinnosti, s výnimkou niektorých častí, ktoré budú uplatniteľné skôr:
- Zákaz systémov AI, ktoré predstavujú neprijateľné riziko, sa bude uplatňovať 6 mesiacov po nadobudnutí účinnosti.
- Kódexy postupov sa budú uplatňovať 9 mesiacov po nadobudnutí účinnosti.
- Pravidlá týkajúce sa systémov AI na všeobecné účely, ktoré musia spĺňať požiadavky na transparentnosť, sa začnú uplatňovať 12 mesiacov po nadobudnutí účinnosti.
Vysoko rizikové systémy budú mať viac času na splnenie požiadaviek, pretože povinnosti týkajúce sa týchto systémov sa začnú uplatňovať 36 mesiacov po nadobudnutí účinnosti.
Implementácia zákona o umelej inteligencii prináša aj historicky najprísnejšie sankcie za jeho nedodržanie alebo porušenie. Tieto pokuty sa týkajú nielen výrobcov, ale aj poskytovateľov služieb v oblasti umelej inteligencie. AIA stanovuje pokuty od 250 000 € (s okamžitou splatnosťou, za drobné zistenia) až po 30 miliónov EUR alebo 6 % z celkového celosvetového ročného obratu za predchádzajúci finančný rok (podľa toho, čo je vyššie), ak ide o porušenia zakázaných praktík alebo nedodržiavanie požiadaviek AIA. Tieto pokuty môžu dostať nielen firmy, ktoré v krajinách EÚ sídlia prípadne obchodujú, ale aj tie, ktoré poškodili práva občanov EÚ kdekoľvek. Podobne ako zákon o ochrane osobných údajov (GDPR), môže sa AIA stať medzinárodným štandardom v obchodovaní a implementáciách umelej inteligencie po celom svete. Preto sa globálni hráči musia pripraviť na audity produktov a služieb AI, ktoré prevádzkujú.
REGULÁCIE AI VO SVETE
Nielen v EÚ, ale aj v ďalších krajinách je legislatíva ohľadom regulácií AI v platnosti v rôznych oblastiach už dávno. S nástupom generatívnej AI sa však zrodila požiadavka mať integrovaný systém, ktorý bude chrániť všetky spoločenské oblasti. Vlády, regulačné orgány a priemyselní lídri sa snažia vybudovať právny a etický rámec pre používanie AI. Pohľad na rôzne stratégie a odpovede rôznych krajín nám umožňuje pochopiť, ako svet reaguje na narastajúce výzvy a možnosti spojené s rýchlym pokrokom v oblasti umelej inteligencie.
V júli 2023 sa sedem najväčších výrobcov AI v spoločnom vyhlásení zaviazalo k tzv. samoregulácii. V októbri 2023 americký prezident Biden podpísal prezidentský výnos ohľadom vývoja AI - Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence /sk/. Ten sa však týkal len štátnej správy.
V USA zakrátko vstúpi do platnosti Zákon o algoritmickej zodpovednosti - Algorithmic Accountability Act (AAA). Od fyzických a právnických osôb, ktoré používajú systémy generatívnej AI pri kritických rozhodnutiach týkajúcich sa bývania, zdravotnej starostlivosti, vzdelávania, zamestnania, plánovaného rodičovstva a osobných oblastí života budú vyžadovať, aby určili vplyvy na občanov pred a po použití algoritmov. Zákony Deep Fakes Accountability Act (DFAA) a Digital Services Oversight and Safety Act (DSOSA) budú od výrobcov generatívnej AI vyžadovať transparentnosť ohľadom vytvárania a aj uverejňovania „falošných osobností“ a dezinformácií, ktoré boli vytvorené týmito modelmi.
Kanada plánuje prijať Artificial Intelligence and Data Act (AIDA). Tento zákon má harmonizovať legislatívu ohľadom AI vo všetkých provinciách, so zameraním na znižovanie jej rizík ako aj transparentnosť.
Veľká Británia (UK) bola donedávna zástancom uvoľnených regulácií v AI, ktoré by skôr podporili inovácie. Na druhej strane, aktívne reguluje AI. Napríklad Financial Conduct Authority (FCA) (Úrad pre finančné správanie) testuje AI systémy vo finančnom sektore, a Information Commissioner’s Office (ICO) (Úrad komisára pre informácie) testuje dodržiavanie ochrany súkromia v AI modeloch /komponenty/. Podľa zákona Online Safety Act (OSA), ktorý prednedávnom vstúpil do platnosti, je generovanie a zdieľanie sexuálne explicitných falošných fotiek a videí vytvorených AI trestné.
Úrad na dohľad nad kyber priestorom v Číne - Cyberspace Administration of China (CAC) dohliada na to, aby verejne dostupné modely AI neodpovedali v rozpore s vládnou ideológiou, a neposkytovali informácie, ktoré by vzbudzovali pochybnosti o režime.
V Indii donedávna odmietali akékoľvek striktné regulácie AI, a volali po podpore inovácií. Série bezprecedentných útokov a dezinformačných kampaní pomocou AI podnietili iniciatívy na vznik regulačného rámca, ktorý by obmedzil škodlivý vplyv AI systémov domáceho i zahraničného pôvodu.
Medzi krajiny, ktoré patria medzi lídrov v presadzovaní ucelenej legislatívy na regulácie AI patria ešte Japonsko, Kórea a Singapur. Za zmienku stoja aj niektoré lokálne právne úpravy, napríklad v štátoch USA – Kalifornia, New York a Texas.
ZÁVER
Regulácia umelej inteligencie predstavuje dôležitý krok smerom k zabezpečeniu jej bezpečného a etického využitia. Prvý komplexný zákon „AI Act“ (AIA), prijatý Európskou úniou, poskytuje rámec na minimalizovanie rizík a zabezpečenie transparentnosti pri jej využívaní. Systémy s vysokým a neprijateľným rizikom sú zakázané alebo podliehajú prísnym kontrolám, zatiaľ čo systémy s minimálnym alebo obmedzeným rizikom majú väčšiu flexibilitu.
Implementácia podobných regulácií vo svete, ako aj úsilie rôznych krajín a regulačných orgánov, ukazuje na všeobecné povedomie o dôležitosti riadenia AI v spoločnosti. Aj keď existujú obavy o konkurencieschopnosť, pružnosť a úpravy v reguláciách by mali pomôcť minimalizovať negatívny vplyv na inovácie.
Napriek výzvam a rozdielnym prístupom je jasné, že regulácia AI sa stáva nevyhnutnou súčasťou globálneho technologického ekosystému. Jej úspešná implementácia bude kľúčom k tomu, že umelá inteligencia bude slúžiť najlepším záujmom spoločnosti a jednotlivcov. pochybnosti o režime.
CIEĽ REGULÁCIE AI
Cieľom regulácie umelej inteligencie je využiť výhody AI a zároveň minimalizovať jej riziká a zabezpečiť, aby slúžila najlepším záujmom jednotlivcov i celej spoločnosti. Má garantovať, že systémy umelej inteligencie budú zabezpečené, transparentné, monitorované a nediskriminačné. Dozor nad AI by mal vykonávať ľudský faktor, nie automatizácia, s cieľom predchádzať možným negatívnym dôsledkom.
Dôležité je poznamenať, že aj pred prijatím tohto zákona existovali desiatky zákonov a smerníc, ktoré regulujú systémy AI - od ochrany osobných údajov a autorských práv po bezpečnosť a ďalšie. Odvetvia ako zdravotníctvo a financie majú vlastné špecifické regulácie používania AI.
DEFINOVANIE RIZÍK AI
Zákon EÚ o umelej inteligencii (AIA) určuje povinnosti pre poskytovateľov a užívateľov podľa stupňa rizika spojeného s používaním AI. Zákon definuje štyri úrovne rizika:
- Neprijateľné riziko (unacceptable risk)
- Vysoké riziko (high risk)
- Obmedzené riziko (limited risk)
- Minimálne alebo žiadne riziko (minimal risk)
Neprijateľné riziko: Systémy AI, ktoré sa považujú za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí, sú zakázané. Tieto zahŕňajú systémy na sociálne hodnotenie občanov, ako aj tie, ktoré manipulujú kognitívne správanie jednotlivcov alebo zraniteľných skupín, ako sú napríklad hlasom aktivované hračky podporujúce nebezpečné správanie detí.
Vysoké riziko: Do tejto kategórie patria systémy umelej inteligencie používané ako bezpečnostné prvky alebo súčasti výrobkov, ktoré podliehajú právnym predpisom EÚ. Tieto systémy sú aplikované v rôznych oblastiach vrátane biometrie, kritickej infraštruktúry, vzdelávania, zamestnanosti, prístupu k základným službám, presadzovania práva, imigrácie, výkonu spravodlivosti a demokratických procesov. Navyše, systémy AI, ktoré vytvárajú profily jednotlivcov, čo znamená automatizované spracúvanie osobných údajov na hodnotenie rôznych aspektov života osoby, ako sú pracovný výkon, ekonomická situácia, zdravotný stav, preferencie, záujmy, spoľahlivosť, správanie, poloha alebo pohyb, sú súčasťou tejto regulácie. Vývojári musia preukázať, že majú zavedené primerané systémy hodnotenia a zmierňovania rizík AI. Taktiež musia zabezpečiť, aby sa na učenie systému AI používali vysokokvalitné súbory údajov, a musia existovať záznamy o činnosti, aby sa zabezpečila interpretovateľnosť a dokumentovanie výsledkov. Majú viesť podrobnú dokumentáciu poskytujúcu všetky potrebné informácie o systéme a jeho účele, aby regulačné orgány mohli posúdiť jeho súlad.
Obmedzené riziko: Pri používaní systémov AI, ako sú chatboty, je dôležité, aby ľudia boli informovaní o tom, že komunikujú so strojom, aby mohli urobiť informované rozhodnutie o pokračovaní alebo ukončení interakcie. Zákon tiež požaduje, aby poskytovatelia týchto systémov zabezpečili, že obsah generovaný umelou inteligenciou bude identifikovateľný.
Minimálne alebo žiadne riziko: Zákon umožňuje používanie systémov AI s minimálnym rizikom, čo znamená, že vývojári všeobecne nemusia prijímať dodatočné opatrenia na zabezpečenie súladu systémov, ktoré nasadzujú. Sem patria napríklad videohry s umelou inteligenciou alebo filtre nevyžiadanej pošty.
DOPAD REGULÁCIE
Nájdenie rovnováhy medzi podporou technologického pokroku a zároveň zabezpečením ochrany práv a bezpečnosti občanov je komplexná úloha. Panuje obava, že nadmerné regulácie by mohli spomaľovať inovačné snahy a tým oslabiť konkurencieschopnosť firiem, ktoré sa zaoberajú AI. Toto je obzvlášť dôležité v globálnom meradle, keďže firmy pôsobiace v krajinách s menej striktnými reguláciami by mohli mať konkurenčnú výhodu. Európske asociácie v oblasti IT na tento problém poukazujú. Nemecké združenie pre umelú inteligenciu napríklad vydalo varovanie, že AIA by v súčasnej forme mohlo negatívne ovplyvniť európsky AI ekosystém a potenciálne by mohlo viesť ku konkurenčnej nevýhode, hlavne voči súperom z USA a Číny.
Väčšina ustanovení sa začne uplatňovať 24 mesiacov po nadobudnutí účinnosti, s výnimkou niektorých častí, ktoré budú uplatniteľné skôr:
- Zákaz systémov AI, ktoré predstavujú neprijateľné riziko, sa bude uplatňovať 6 mesiacov po nadobudnutí účinnosti.
- Kódexy postupov sa budú uplatňovať 9 mesiacov po nadobudnutí účinnosti.
- Pravidlá týkajúce sa systémov AI na všeobecné účely, ktoré musia spĺňať požiadavky na transparentnosť, sa začnú uplatňovať 12 mesiacov po nadobudnutí účinnosti.
Vysoko rizikové systémy budú mať viac času na splnenie požiadaviek, pretože povinnosti týkajúce sa týchto systémov sa začnú uplatňovať 36 mesiacov po nadobudnutí účinnosti.
Implementácia zákona o umelej inteligencii prináša aj historicky najprísnejšie sankcie za jeho nedodržanie alebo porušenie. Tieto pokuty sa týkajú nielen výrobcov, ale aj poskytovateľov služieb v oblasti umelej inteligencie. AIA stanovuje pokuty od 250 000 € (s okamžitou splatnosťou, za drobné zistenia) až po 30 miliónov EUR alebo 6 % z celkového celosvetového ročného obratu za predchádzajúci finančný rok (podľa toho, čo je vyššie), ak ide o porušenia zakázaných praktík alebo nedodržiavanie požiadaviek AIA. Tieto pokuty môžu dostať nielen firmy, ktoré v krajinách EÚ sídlia prípadne obchodujú, ale aj tie, ktoré poškodili práva občanov EÚ kdekoľvek. Podobne ako zákon o ochrane osobných údajov (GDPR), môže sa AIA stať medzinárodným štandardom v obchodovaní a implementáciách umelej inteligencie po celom svete. Preto sa globálni hráči musia pripraviť na audity produktov a služieb AI, ktoré prevádzkujú.
REGULÁCIE AI VO SVETE
Nielen v EÚ, ale aj v ďalších krajinách je legislatíva ohľadom regulácií AI v platnosti v rôznych oblastiach už dávno. S nástupom generatívnej AI sa však zrodila požiadavka mať integrovaný systém, ktorý bude chrániť všetky spoločenské oblasti. Vlády, regulačné orgány a priemyselní lídri sa snažia vybudovať právny a etický rámec pre používanie AI. Pohľad na rôzne stratégie a odpovede rôznych krajín nám umožňuje pochopiť, ako svet reaguje na narastajúce výzvy a možnosti spojené s rýchlym pokrokom v oblasti umelej inteligencie.
V júli 2023 sa sedem najväčších výrobcov AI v spoločnom vyhlásení zaviazalo k tzv. samoregulácii. V októbri 2023 americký prezident Biden podpísal prezidentský výnos ohľadom vývoja AI - Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence /sk/. Ten sa však týkal len štátnej správy.
V USA zakrátko vstúpi do platnosti Zákon o algoritmickej zodpovednosti - Algorithmic Accountability Act (AAA). Od fyzických a právnických osôb, ktoré používajú systémy generatívnej AI pri kritických rozhodnutiach týkajúcich sa bývania, zdravotnej starostlivosti, vzdelávania, zamestnania, plánovaného rodičovstva a osobných oblastí života budú vyžadovať, aby určili vplyvy na občanov pred a po použití algoritmov. Zákony Deep Fakes Accountability Act (DFAA) a Digital Services Oversight and Safety Act (DSOSA) budú od výrobcov generatívnej AI vyžadovať transparentnosť ohľadom vytvárania a aj uverejňovania „falošných osobností“ a dezinformácií, ktoré boli vytvorené týmito modelmi.
Kanada plánuje prijať Artificial Intelligence and Data Act (AIDA). Tento zákon má harmonizovať legislatívu ohľadom AI vo všetkých provinciách, so zameraním na znižovanie jej rizík ako aj transparentnosť.
Veľká Británia (UK) bola donedávna zástancom uvoľnených regulácií v AI, ktoré by skôr podporili inovácie. Na druhej strane, aktívne reguluje AI. Napríklad Financial Conduct Authority (FCA) (Úrad pre finančné správanie) testuje AI systémy vo finančnom sektore, a Information Commissioner’s Office (ICO) (Úrad komisára pre informácie) testuje dodržiavanie ochrany súkromia v AI modeloch /komponenty/. Podľa zákona Online Safety Act (OSA), ktorý prednedávnom vstúpil do platnosti, je generovanie a zdieľanie sexuálne explicitných falošných fotiek a videí vytvorených AI trestné.
Úrad na dohľad nad kyber priestorom v Číne - Cyberspace Administration of China (CAC) dohliada na to, aby verejne dostupné modely AI neodpovedali v rozpore s vládnou ideológiou, a neposkytovali informácie, ktoré by vzbudzovali pochybnosti o režime.
V Indii donedávna odmietali akékoľvek striktné regulácie AI, a volali po podpore inovácií. Série bezprecedentných útokov a dezinformačných kampaní pomocou AI podnietili iniciatívy na vznik regulačného rámca, ktorý by obmedzil škodlivý vplyv AI systémov domáceho i zahraničného pôvodu.
Medzi krajiny, ktoré patria medzi lídrov v presadzovaní ucelenej legislatívy na regulácie AI patria ešte Japonsko, Kórea a Singapur. Za zmienku stoja aj niektoré lokálne právne úpravy, napríklad v štátoch USA – Kalifornia, New York a Texas.
ZÁVER
Regulácia umelej inteligencie predstavuje dôležitý krok smerom k zabezpečeniu jej bezpečného a etického využitia. Prvý komplexný zákon „AI Act“ (AIA), prijatý Európskou úniou, poskytuje rámec na minimalizovanie rizík a zabezpečenie transparentnosti pri jej využívaní. Systémy s vysokým a neprijateľným rizikom sú zakázané alebo podliehajú prísnym kontrolám, zatiaľ čo systémy s minimálnym alebo obmedzeným rizikom majú väčšiu flexibilitu.
Implementácia podobných regulácií vo svete, ako aj úsilie rôznych krajín a regulačných orgánov, ukazuje na všeobecné povedomie o dôležitosti riadenia AI v spoločnosti. Aj keď existujú obavy o konkurencieschopnosť, pružnosť a úpravy v reguláciách by mali pomôcť minimalizovať negatívny vplyv na inovácie.
Napriek výzvam a rozdielnym prístupom je jasné, že regulácia AI sa stáva nevyhnutnou súčasťou globálneho technologického ekosystému. Jej úspešná implementácia bude kľúčom k tomu, že umelá inteligencia bude slúžiť najlepším záujmom spoločnosti a jednotlivcov. pochybnosti o režime.
Prihláste sa na ITAPA Health&Care 2025
