Umetna inteligenca – pogled skozi pravni okvir

Umetna inteligenca (UI) postaja vse bolj prisoten del našega vsakdana – od priporočil na družbenih omrežjih do pametnih orodij v zdravstvu, izobraževanju, javni upravi in nevladnem sektorju. S tem pa se pojavljajo tudi vprašanja o vplivih, tveganjih in potrebi po jasnih pravilih, ki bodo zagotavljala, da se UI razvija v korist ljudi in družbe.

Kaj je umetna inteligenca?

UI je računalniška tehnologija, ki z algoritmi analizira velike količine podatkov, odkriva vzorce, se uči iz izkušenj in sprejema odločitve – hitro in natančno, pogosto bolj kot človek.

Kje se UI že uporablja?

• Zdravstvo: diagnostika rentgenskih slik, zgodnje odkrivanje raka.
• Energetika: napovedovanje porabe in optimizacija omrežij.
• Promet: regulacija prometa in napovedovanje zastojev.
• Javna uprava: klepetalni roboti (eUprava, eDavki), avtomatizirano procesiranje vlog.
• Okolje: napovedovanje poplav, suš in upravljanje vodnih virov.
• Sodstvo: analiza sodne prakse in pomoč pri pisanju odločb.
• NVO: oblikovanje vsebin, prevajanje, raziskave in analize.

Koristi in tveganja

OECD ugotavlja, da prednosti UI pogosto presegajo tveganja, vendar ostajajo resni izzivi: diskriminacija, pristranskost, zloraba podatkov, pomanjkanje transparentnosti in grožnje temeljnim pravicam.

Evropski Akt o umetni inteligenci

1. avgusta 2024 je začel veljati prvi globalni sistemski zakon o UI.

• Uvaja razvrstitev sistemov UI glede na tveganje: minimalno, posebno glede preglednosti, veliko in nesprejemljivo.
• Prepoveduje sisteme z nesprejemljivim tveganjem (npr. »družbeno točkovanje«).
• Za visoko tvegane sisteme predpisuje stroge varnostne in nadzorne zahteve.
• Poudarek je na zaščiti temeljnih pravic, zdravja, varnosti in demokracije.

Slovenski zakon o izvajanju Akta

Predlog zakona, ki ga je pripravilo Ministrstvo za digitalno preobrazbo, določa pristojne organe za nadzor, kot so:

• Informacijski pooblaščenec – prepovedane prakse, visoko tvegani sistemi (biometrija, izobraževanje, pravosodje …)
• AZN – UI v življenjskem in zdravstvenem zavarovanju.
• Banka Slovenije – ocenjevanje kreditne sposobnosti fizičnih oseb.
• TIRS – kreditna ocena pri nebančnih ponudnikih.

Zakon predvideva tudi svetovanje, promocijske kampanje in podporo lokalnim skupnostim, NVO in javnim zavodom pri uvajanju UI.

Pomen za NVO

NVO so:

• Uporabnice UI – npr. orodja za komunikacijo, analizo podatkov, avtomatizacijo.
• Varuhinje pravic – spremljanje učinkov tehnologije, zaščita ranljivih skupin.

Priložnosti:

• Dostop do strokovne podpore in izobraževanj.
• Možnost vključevanja v regulativne peskovnike.
• Sooblikovanje etičnih smernic in zagovorništvo.

Kaj lahko storijo NVO?

1. Spremljajo uporabo UI v svojem okolju.
2. Preverijo, ali uporabljajo UI-orodja in kakšne obveznosti imajo.
3. Vključijo se v razprave o regulaciji in etiki UI.
4. Izkoristijo podporne ukrepe zakona.

Zaključek:
Umetna inteligenca ni le tehnološko vprašanje – je vprašanje vrednot, zakonov in skupnosti. Z odgovorno uporabo in nadzorom lahko postane orodje, ki krepi zaupanje in spodbuja razvoj v dobrobit vseh.

 

Celoten članek si lahko preberete na: https://zanvo.org/umetna-inteligenca-pogled-skozi-pravni-okvir/

---