Znanstveno vijeće za državnu upravu, pravosuđe i vladavinu prava

organizira

OKRUGLI STOL

Regulacija umjetne inteligencije u Europskoj uniji: tehnološki izazovi i etička pitanja

u četvrtak, 11. travnja 2024. s početkom u 10 sati kao videokonferencija

Uvodna će izlaganja održati:

Tomislav Pedišić, dipl. iur., Odvjetničko društvo Vukmir i suradnici

Usklađenost pravila Europske unije o umjetnoj inteligenciji i zaštiti osobnih podataka

Izv. prof. dr. sc. Mihael Mišo Mudrić, Pravni fakultet Sveučilišta u Zagrebu

Izazovi biometrijske identifikacije u realnom vremenu

Izv. prof. dr. sc. Sunčana Roksandić, Pravni fakultet Sveučilišta u Zagrebu
Izv. prof. dr. sc. Ante Novokmet, Pravni fakultet Sveučilišta u Osijeku
Ivan Vidaković, mag. iur., asistent, Pravni fakultet Sveučilišta u Osijeku

Tehnološki potaknute promjene u kaznenom postupku

Izv. prof. dr. sc. Hrvoje Lisičar, Pravni fakultet Sveučilišta u Zagrebu

Borba protiv lažnih vijesti i dezinformacija

Moderne tehnologije izmijenile su svijet. Njihov razvoj znatno utječe na život, mijenja navike i način poslovanja, utječe na odnose među ljudima. Posljednjih decenija bitno su utjecale na načine postupanja, kretanje informacija, načine poslovanja i rada te uopće na način života. Posebnu ulogu u tome imaju one najnaprednije kao što je umjetna inteligencija. Njezin je razvoj nezadrživ, a brzina kojom se razvija i područja primjene zapanjujuća su. To otvara brojna pitanja pravnog uređenja primjene umjetne inteligencije i predviđanja njezinih učinaka u budućnosti. Kao i svaka nova stvar, tako i to izaziva određenu dozu opreza, ponekad i bojazni od mogućih učinaka. Javlja se potreba za zaštitom od mogućih zlouporaba.

Europska unija ušla je u završnu fazu usvajanja izrazito bitne Uredbe o umjetnoj inteligenciji. Uz Kinu, koja od 2017. godine usvaja čitav niz digitalnih propisa, Europska unija među prvima u svijetu posvećuje punu pažnju problematici digitalne sfere i utjecaja tehnologije na svakodnevni život i poslovanje građana Unije. Uz načelo procjene rizika kao osnovne komponente kategorizacije sustava umjetne inteligencije, Uredba, kao i brojni drugi europski pravni akti, posebno se bavi zaštitom osobnih podataka. Otvara se pitanje usklađenosti pravila Europske unije o umjetnoj inteligenciji i zaštite osobnih podataka te praktičnih izazova i očekivanja. U raspravama vođenim o potrebi zaštite osobnih podataka u vezi s izradom konačnog teksta Uredbe izneseni su prijedlozi o korištenju, ograničenjima, pa čak i zabrani korištenja tehnologije biometrijske identifikacije u stvarnom vremenu. Potrebno je analizirati konačne odredbe Nacrta Uredbe u vezi s biometrijskom identifikacijom i osvrnuti se na tijela za provedbu Uredbe. Nove tehnologije dovode u pitanje i učinkovitost sudskog nadzora sugerirajući potrebu za proaktivnom primjenom inkvizitornih ovlasti suda, odnosno inkvizitorne maksime. Teret koji nove tehnologije stavljaju na okrivljenika/optuženika ugrožava njegovo temeljno pravo da se brani šutnjom. To stvara potrebu za dodatnim  regulatornim promišljanjem usmjerenim na zaštitu njegovih prava. Konačno, s obzirom na superizbornu 2024. godinu, postoji ozbiljna bojazan kako će se različiti alati i sustavi umjetne inteligencije koristiti da bi se stvarale i širile lažne vijesti i dezinformacije. Kako se tome suprotstaviti?

Uvodna izlaganja i pisani prilozi sudionika u raspravi objavit će se u 82. knjizi nakladničkog niza Znanstvenog vijeća Modernizacija prava.