×

‘Sustav prepoznavanja lica na javnim mjestima treba strogo ograničiti, a algoritamsko društveno vrednovanje zabraniti’

05.10.2021

Na plenarnom zasjedanju Europskog parlamenta koje se održava u Strasbourgu zastupnici su jučer raspravljali o primjeni umjetne inteligencije u pravosuđu. Povod za raspravu bilo je Izvješće Odbora za građanske slobodne, pravosuđe i unutarnje poslove Europskog parlamenta (LIBE) kojim se poziva na dodatan oprez prilikom uporabe umjetne inteligencije u pravosuđu. U raspravi je kao član Odbora za unutarnje tržište i zaštitu potrošača (IMCO), vodećeg Odbora Europskog parlamenta za umjetnu inteligenciju, sudjelovao i hrvatski zastupnik doc. dr. sc. Tomislav Sokol.

‘Koristi od umjetne inteligencije mogu biti višestruke. Ranija dijagnostika zloćudnih bolesti, bolje upravljanje prometom ili pak racionalnije korištenje energenata samo su neki od primjera očite koristi koju primjena umjetne inteligencije donosi. Međutim, ako nije primjereno zakonodavno uređena, umjetna inteligencija može ugroziti privatnost pojedinca i dovesti do različitih oblika diskriminacije. Stoga ne čudi podatak da 88 posto građana smatra da njome treba pažljivo upravljati. Borba protiv sofisticiranih, dobro financiranih i opremljenih terorističkih i kriminalnih skupina u 21. stoljeću ne može se zamisliti bez korištenja umjetne inteligencije. S druge strane, primjena umjetne inteligencije naročito je osjetljiva u području kaznenog prava jer uključuje mogućnost biometrijskog prepoznavanja i algoritamskog donošenja odluka. Pritom uporabu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona u skladu s načelom proporcionalnosti, treba ograničiti na situacije kao što su potraga za nestalim djetetom, sprečavanje konkretne i neposredne terorističke prijetnje ili otkrivanje, lociranje, identificiranje ili istraga protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo. Moramo postići balans između korištenja umjetne inteligencije u svrhu hvatanja kriminalaca s jedne strane i zaštite ljudskih prava s druge strane, bez širenja histerije i paranoje.’ - istaknuo je Sokol te se založio za zabranu algoritamskog koncepta društvenog vrednovanja.

‘Kako bi postala svjetski predvodnik u pametnim tehnologijama, Europska unija treba sveobuhvatan pristup umjetnoj inteligenciji. Međutim, tim pristupom treba zabraniti koncept društvenog vrednovanja kojim se pomoću algoritama može prikupljati širok spektar podataka o građanima i njihovom ponašanju.’ - zaključio je Sokol.