Akt o umetni inteligenci je sredi marca potrdil tudi Evropski parlament. Bojana Pleterski (Info hiša) je na skupnem dogodku DMS, Info hiše, IAB Slovenija in Slovenske oglaševalske zbornice poudarila, da si akt prizadeva predvsem za zaščito državljanov in spodbujanje inovacij. Sistemi umetne inteligence naj bi se namreč v skladu z aktom razvijali tako, da so odgovorni ter spoštujejo vse temeljne vrednote Evropske unije. Opredeljuje ključne štiri kategorije sistemov UI, bolj tvegani sistemi pa imajo več obveznosti: - prepovedani sistemu UI, visoko tvegani sistemi UI, omejeno tvegani sistemi UI in minimalno tvegani sistemi UI. Ob tem akt o UI opredeljuje tudi modele UI za splošno uporabo, ki lahko prinesejo sistemska tveganja, saj gre za zelo zmogljive modele (npr. ChatGPT).

Za posamezno podjetje je ključno, da ve, kam spada njihov sistem umetne inteligence in na podlagi tega pozna tudi obveznosti, ki jih akt o UI nalaga." Bojana Pleterski

Akt o umetni inteligenci pa opredeljuje tudi prepovedane prakse, ki jih UI orodja ne smejo izvajati. To so uporaba subliminalnih tehnik in manipulacija, izkoriščanje posameznikovih slabosti, rangiranje posameznikov (ang. social scoring), prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah, biometrična kategorizacija, biometrično prepoznavanje v realnem času na javnih prostorih, strganja slik obraza na internetu ali iz CCTV sistemov za ustvarjanje baze podatkov, prediktivno policijsko delovanje.

Ponudniki sistemov z visokim tveganjem bodo med drugim pred uporabo UI morali izdelati oceno skladnosti za zaupanja vredno UI, kjer postopek nekoliko spominja na tistega, ki ga je za zbiranje podatkov pred leti določil akt o GDPR. Obveznosti ponudnikov omejeno tveganih sistemov največji poudarek namenjajo transparentnosti, poleg tega pa morajo kot ponudniki sistemov z minimalnim tveganjem upoštevati obstoječo zakonodajo (tudi na področju varstva osebnih podatkov). Velik del uporabe umetne inteligence po besedah Bojane Pleterski spada v zadnjo kategorijo, ki ne predstavlja velikega tveganja za uporabnike.

Akt o UI v marketingu

Podjetja, ki za nagovarjanje svojih uporabnikov uporabljajo klepetalne robote, morajo opredeliti, kakšna je vsebina komunikacije, uporabnike seznaniti, da se ne pogovarjajo s človekom in dopolniti politiko o zasebnosti, (kjer je treba opredeliti, kateri podatki se zbirajo, za kakšen namen, na kakšni pravni podlagi, kakšni so roki hrambe in kakšne so pravice uporabnikov). Če podjetje uporablja UI za profiliranje, pa je treba zagotoviti transparentnost (s kakšnim namenom se uporabljajo podatki), preveriti, če je za obdelavo potrebna eksplicitna privolitev ter paziti na nediskriminatorno delovanje.

Evropska unija si bo prizadevala, da bo vsebina, ki bo ustvarjena ali spremenjena s pomočjo umetne inteligence (npr. članki, slike, videi), označena s posebnim znakom »Ustvarjeno z umetno inteligenco«, tudi tako, da bo spodbujala sprejemanje kodeksov ravnanja, ki bodo to olajšali. To področje je zelo pereče in še ni dokončno urejeno v Aktu o umetni inteligenci, Urad o umetni inteligenci ima nalogo pripraviti usklajen tehnični standard za prepoznavanje take vsebine. Uporaba umetne inteligence podjetjem omogoča tudi avtomatizirano sprejemanje odločitev (tudi s pomočjo oblikovanje profilov), ki pa se lahko izvaja le ob ustrezni pravni podlagi, zagotovljena mora biti transparentnost uporabe UI, ter omogočati pravico do osebnega posredovanja upravljavca, izražanja lastnega stališča in pravico do izpodbijanja odločitve.

Z novimi obveznostmi, ki jih prinaša akt o umetni inteligenci, se v podjetjih povečuje povpraševanje po specifičnih, multidisciplinarnih znanjih, kar bo izoblikovalo tudi novo funkcijo oziroma delovno mesto za upravljanje z UI. Učinkovito upravljanje UI vključuje sodelovanje vseh odgovornih pri razvoju in uporabi sistemov UI in zajema detektiranje in popisovanje vseh modelov UI v organizaciji, priprava ocene tveganja za posamezne UI modele, mapiranje podatkov in rezultatov UI, implementiranje kontrol za podatke in rezultate UI ter dokazovanje skladnosti.

‍