Evropska komisija si z objavo novega osnutka smernic o umetni inteligenci prizadeva za poenotenje definicij in vzpostavitev temeljev za njen razvoj ter varno in odgovorno uporabo. Zadnji osnutek smernic za opredelitev sistema umetne inteligence, objavljen v začetku februarja, pomeni nadaljevanje prizadevanj v smeri že veljavnih smernic o prepovedanih praksah. Namen smernic je olajšati praktično uporabo pravil iz Akta o umetni inteligenci ter pomagati ponudnikom in uporabnikom pri prepoznavanju sistemov umetne inteligence.
Foto: Freepik
Osnovne pojme umetne inteligence je že opredelil Akt o umetni inteligenci. Nove smernice, objavljene 6. februarja, prinašajo nekatere natančnejše opredelitve.
Sistem umetne inteligence prepoznamo predvsem po sposobnosti pretvorbe podatkov v rezultate, kot so napovedi, vsebine, priporočila in odločitve. Tak sistem lahko ustvarja rezultate tudi iz zapletenih odnosov in vzorcev v podatkih, česar drugi sistemi niso sposobni. Ključna značilnost, ki umetno inteligenco loči od "tradicionalne programske opreme", je sklepanje. Druge značilnosti vključujejo avtonomno delovanje, prilagodljivost ter vpliv na fizična ali virtualna okolja.
Objavljeni dokument predstavlja osnutek smernic, ki niso zavezujoče, temveč pomagajo pri enotni uporabi Akta o umetni inteligenci. Namen smernic je sektorju olajšati prepoznavanje, ali določena programska oprema predstavlja sistem umetne inteligence. Če sistem ne izpolnjuje kriterijev, določenih v smernicah, zanj Akt o umetni inteligenci ne velja.
Sistemi, ki niso umetna inteligenca:
• Osnovna obdelava podatkov
• Klasične statistične metode
• Hevristika
Prepovedane prakse umetne inteligence
Evropska komisija je objavila tudi smernice o prepovedanih praksah umetne inteligence, ki jih določa Akt o umetni inteligenci. V smernicah so podrobno razložene prepovedane prakse in praktični primeri za zagotavljanje skladnosti z aktom. Načeloma so prepovedane vse prakse, ki pomenijo nesprejemljivo tveganje za varnost in temeljne pravice ljudi.
Prepovedana uporaba umetne inteligence vključuje:
• Družbeno ocenjevanje (social scoring)
• Sklepanje o čustvih posameznikov v šolstvu in na delovnih mestih
• Nezakonito zbiranje biometričnih podatkov
• Napovedovanje izvršitve kaznivih dejanj
Pravila, ki so začela veljati 2. februarja, se nanašajo tudi na prepoved določenih načinov uporabe umetne inteligence, ki predstavljajo tveganje za Evropsko unijo.
Pismenost na področju umetne inteligence
Akt o umetni inteligenci opredeljuje pismenost na področju umetne inteligence kot spretnosti, znanje in razumevanje, ki omogočajo informirano uvajanje sistemov umetne inteligence ter zavedanje priložnosti in tveganj. Komisija pričakuje, da bo to spodbudilo učenje, izmenjavo znanj in zagotavljanje potrebnih kompetenc za učinkovito uporabo tehnologij umetne inteligence.
Za več novosti o umetni inteligenci spremljajte portal MiPi, kjer bomo redno objavljali aktualne informacije.
Naslednji pomemben mejnik za Akt o umetni inteligenci je 2. avgust 2025, ko morajo države članice imenovati pristojne nacionalne organe za nadzor nad pravili. Akt se bo v celoti začel uporabljati 2. avgusta 2026. Njegov cilj je spodbujati inovacije ter varovati zdravje, varnost in temeljne pravice ljudi.