Smjernice za etičko korištenje umjetne inteligencije u obrazovanju

Rizik koji donose sustavi koji se smatraju prijetnjom ljudima je neprihvatljiv i takvi sustavi bit će zabranjeni. Među njima su:

• kognitivno bihevioralno manipuliranje osobama ili određenim ranjivim skupinama, primjerice glasovno aktivirane igračke koje potiču opasno ponašanje kod djece
• bodovanje i klasifikacija ljudi na temelju ponašanja, socioekonomskog statusa, osobnih obilježja
• biometrijska identifikacija i kategorizacija fizičkih osoba
• sustavi biometrijske identifikacije u stvarnom vremenu i daljinski sustavi za biometrijsku identifikaciju, kao što je prepoznavanje lica.

Sljedeća razina su visokorizični sustavi umjetne inteligencije koji se trebaju procijeniti prije stavljanja na tržište i tijekom njihova životnog ciklusa. Visokorizičnim se smatraju i primjene umjetne inteligencije u obrazovanju. Citiramo dijelove 56. stavka te III. Priloga koji se odnose na obrazovanje.

(56) Uvođenje UI sustavâ u obrazovanje važno je kako bi se promicalo visokokvalitetno digitalno obrazovanje i osposobljavanje te kako bi se svim učenicima i nastavnicima omogućilo da steknu i dijele potrebne digitalne vještine i kompetencije, uključujući medijsku pismenost i kritičko razmišljanje, kako bi aktivno sudjelovali u gospodarstvu, društvu i demokratskim procesima. Međutim, UI sustavi koji se upotrebljavaju u obrazovanju ili strukovnom osposobljavanju, osobito za odlučivanje o pristupu ili upisu, za razvrstavanje osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama, za evaluaciju ishoda učenja osoba, za procjenu odgovarajuće razine obrazovanja pojedinca i bitan utjecaj na razinu obrazovanja i osposobljavanja koju će pojedinci steći ili kojoj će moći pristupiti, odnosno za praćenje i otkrivanje zabranjenog ponašanja učenika tijekom testiranja trebali bi se klasificirati kao visokorizični UI sustavi jer mogu odrediti obrazovni i profesionalni tijek života osobe i stoga utjecati na njezinu mogućnost da osigura vlastita sredstva za život. Ako se dizajniraju i upotrebljavaju na nepravilan način, takvi sustavi mogu biti osobito intruzivni i kršiti pravo na obrazovanje i osposobljavanje i pravo na nediskriminaciju te perpetuirati povijesne obrasce diskriminacije, primjerice protiv žena, određenih dobnih skupina, osoba s invaliditetom, odnosno osoba određenog rasnog ili etničkog podrijetla ili seksualne orijentacije (Europski parlament, Akt o umjetnoj inteligenciji, 2024).

Prilog III. Visokorizični UI sustavi u području obrazovanja i strukovnog osposobljavanja:

1. a) UI sustavi namijenjeni za odlučivanje o pristupu ili upisu ili za razvrstavanje fizičkih osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama
2. b) UI sustavi namijenjeni za evaluaciju ishoda učenja, među ostalim kad se ti ishodi upotrebljavaju za usmjeravanje procesa učenja fizičkih osoba u ustanovama za obrazovanje i strukovno osposobljavanje na svim razinama
3. c) UI sustavi namijenjeni za procjenu odgovarajuće razine obrazovanja koju će pojedinci primiti ili kojoj će moći pristupiti, u kontekstu ili unutar ustanova za obrazovanje i strukovno osposobljavanje d) UI sustavi namijenjeni za praćenje i otkrivanje zabranjenog postupanja učenika tijekom testiranja u kontekstu ili unutar ustanova za obrazovanje i strukovno osposobljavanje. (Europski parlament, Akt o umjetnoj inteligenciji, 2024).

Europska komisija je uz potporu stručne skupine izradila Etičke smjernice namijenjene nastavnom osoblju za upotrebu umjetne inteligencije i podataka u poučavanju i učenju (2022) u kojima navode ključne zahtjeve za pouzdanu umjetnu inteligenciju:

• Ljudsko djelovanje i nadzor, uključujući temeljna prava, prava djece, ljudsko djelovanje i ljudski nadzor.
• Transparentnost, uključujući sljedivost, mogućnost objašnjenja i komunikaciju.
• Raznolikost, nediskriminacija i pravednost, uključujući pristupačnost, univerzalni dizajn, izbjegavanje nepoštene pristranosti i sudjelovanje dionika, koji omogućuju upotrebu neovisno o dobi, spolu, sposobnostima ili obilježjima, s posebnim fokusom na učenike s posebnim potrebama.
• Dobrobit društva i okoliša, uključujući održivost i ekološku prihvatljivost, društveni utjecaj, društvo i demokraciju.
• Privatnost i upravljanje podacima, uključujući poštovanje privatnosti, kvalitetu i cjelovitost podataka te pristup podacima.
• Tehnička stabilnost i sigurnost, uključujući otpornost na napade, opću sigurnost, točnost, pouzdanost i ponovljivost.
• Odgovornost, uključujući provjerljivost, smanjivanje i prijavljivanje negativnog utjecaja, kompromise i ispravak. U spomenutim smjernicama možete pronaći i prijedloge pitanja na koja biste trebali odgovoriti ili potražiti odgovore, od pružatelja usluga, autora programa, obrazovnih institucija, regulatornih agencija ili stručnjaka, prije nego li se koristite nekim od programa umjetne inteligencije u učenju ili poučavanju.

Etičkim aspektima umjetne inteligencije bavila se i Stručna skupina za UI u obrazovanju, Europske platforme za digitalno obrazovanje (European Digital Education Hub) te u svojem UI izvještaju (AI report, 2023) savjetuje:

• Identificirati i analizirati etičke i ekološke mogućnosti i prijetnje koje proizlaze iz svakodnevne uporabe umjetne inteligencije.
• Promicati sigurnu, odgovornu i svjesnu upotrebu digitalnih alata i tehnologija povezanih s umjetnom inteligencijom.
• Analizirati i razumjeti ljudski otisak i utjecaj rizika u automatiziranom procesu donošenja odluka.
• Identificirati i procijeniti etičke i političke implikacije dizajna i korištenja sustava umjetne inteligencije, uključujući pravednost, pristranost, diskriminaciju i odgovornost.
• Kritički analizirati potencijal umjetne inteligencije za poboljšanje kvalitete života ljudi, procjenjujući njezinu operativnost u različitim društvenim, ekonomskim i kulturnim kontekstima.
• Poznavati i razumjeti rizike i prednosti umjetne inteligencije u različitim područjima, kao što su zdravlje, sigurnost i privatnost.

UNESCO-ve Smjernice za generativnu umjetnu inteligenciju u obrazovanju i istraživanju (UNESCO, Guidance for generative AI in education and research, 2023) između ostalog ističu na koje načine bi svatko od nas trebao promisliti o upotrebi umjetne inteligencije i koje korake bismo trebali poduzeti prije nego li upotrijebimo neki od programa generativne umjetne inteligencije (GenAI) u obrazovanju. Savjetuju:

• Proučite uvjete korištenja GenAI aplikacija.
• Provedite strogu etičku provjeru valjanosti GenAI aplikacija prije nego što ih upotrijebite u nastavi.
• Pratite i prijavljujte nezakonite postupke GenAI aplikacija.
• Provedite pedagošku validaciju i provjerite smislenost upotrebe.
• Informirajte učenike, pozabavite se složenim pitanjem informiranog pristanka.
• Upotrijebite povratne informacije kako biste odlučili trebate li i na koji način implementirati specifične GenAI alate.

Ujedinjeni narodi u Općem komentaru br. 25 (2021.) o pravima djece u odnosu na digitalno okruženje ističu da sva djeca imaju pravo na jednak i učinkovit pristup digitalnom okruženju na način koji je za njih smislen (nediskriminacija); da je potrebno osigurati da je najbolji interes svakog djeteta u prvom planu u svim postupcima koji uključuju pružanje, reguliranje, osmišljavanje, upravljanje i uporabu digitalnog okuženja; poduzeti sve odgovarajuće mjere kako bi se zaštitila djeca od opasnosti za njihovo pravo na život, preživljavanje i razvoj; da uporaba digitalnih uređaja ne bi smjela biti štetna, niti bi smjela biti zamjena za osobne interakcije među djecom ili između djece i roditelja ili skrbnika te da je potrebno promicati svjesnost o digitalnim načinima na koje djeca mogu izraziti svoja mišljenja kako bi mogli biti učinkoviti branitelji svojih prava.

Iz navedenog je jasno da treba pažljivo promisliti o primjeni sustava umjetne inteligencije u obrazovanju, uzeti u obzir sve rizike i ograničenja, provjeriti da ne nanose štetu učenicima, da su obrazovno učinkoviti, primjereni za dob i sposobnosti učenika, usklađeni s pedagoškim načelima te imati na umu najbolji interes i prava djeteta.

Prijedlozi za raspravu

• S kojima od spomenutih etičkih izazova ste se već susreli? Kako ste ih riješili?
• Koji su potencijalni rizici povezani s korištenjem algoritama u donošenju odluka o ocjenjivanju učenika? Kako biste ih izbjegli?
• Koje su moguće etičke implikacije upotrebe osobnih podataka u obrazovne svrhe putem algoritama za analizu?
• Kako se nositi s pitanjem privatnosti kada se koriste tehnologije poput praćenja aktivnosti učenika ili personaliziranih sustava učenja?
• Kako osigurati pravedan pristup tehnologiji u obrazovanju kako bi se izbjeglo povećanje jaza između učenika s različitim mogućnostima?

Preuzmite priručnik “Umjetna inteligencija u obrazovanju”

Tekst je u potpunosti prenesen s mrežnih stranica Medijska pismenost – abeceda za 21. stoljeće.