Priročnik za oblikovalce politik: vrednotenje hitro razvijajočih se tehnologij, vključno z umetno inteligenco, velikimi jezikovnimi modeli in več

Hitro razvijajoče se tehnologije predstavljajo zahtevna vprašanja, ko gre za njihovo uporabo, upravljanje in morebitno regulacijo. Tekoče politike in javne razprave o umetni inteligenci (AI) in njeni uporabi so ta vprašanja postavile v središče pozornosti. Unesco, OECD, ZN in drugi so objavili široka načela za umetno inteligenco, vključno z izjavo iz Bletchleyja Združenega kraljestva, pojavljajo pa se tudi jurisdikcijski poskusi urejanja vidikov tehnologije prek, na primer, umetne inteligence Evropske unije (EU). zakon ali nedavni izvršni ukaz Združenih držav AI.

Medtem ko se o uporabi umetne inteligence na teh in drugih forumih obširno razpravlja prek geopolitičnih razkolov in v državah z vsemi dohodkovnimi ravnmi, ostaja ontološka vrzel med razvojem načel na visoki ravni in njihovo vključitvijo v prakso prek regulative, politike ali upravljanja. ali skrbniški pristopi. Pot od načela do prakse je slabo opredeljena, vendar glede na naravo in kadenco razvoja in uporabe umetne inteligence, raznolikost vključenih interesov in vrsto možnih aplikacij noben pristop ne more biti preveč splošen ali predpisujoč.

Zaradi teh razlogov ima nevladna znanstvena skupnost še naprej posebno vlogo. Mednarodni znanstveni svet (ISC) – s svojim pluralističnim članstvom iz družbenih in naravoslovnih ved – je oktobra 2023 objavil dokument za razpravo, v katerem je predstavil predhodni analitični okvir, ki je upošteval tveganja, koristi, grožnje in priložnosti, povezane s hitro razvijajočo se digitalno tehnologijo. Čeprav je bil razvit za upoštevanje umetne inteligence, je sam po sebi tehnološki agnostik in ga je mogoče uporabiti za vrsto nastajajočih in prelomnih tehnologij, kot sta sintetična biologija in kvantna. Ta dokument za razpravo je zahteval povratne informacije od akademikov in oblikovalcev politike. Zaradi velike količine povratnih informacij je bila izvedba takšne analize nujna in je veljala za dragocen pristop k obravnavanju nastajajočih tehnologij, kot je umetna inteligenca.

Namen ogrodja je zagotoviti orodje za obveščanje vseh zainteresiranih strani – vključno z vladami, trgovinskimi pogajalci, regulatorji, civilno družbo in industrijo – o razvoju teh tehnologij, da bi jim pomagali opredeliti, kako bi lahko razmislili o pozitivnih ali negativnih posledicah sama tehnologija in natančneje njena posebna uporaba. Ta analitični okvir je bil razvit neodvisno od interesov vlade in industrije. V svojih perspektivah je maksimalno pluralističen, zajema vse vidike tehnologije in njene posledice na podlagi obsežnih posvetovanj in povratnih informacij.

Ta dokument za razpravo za oblikovalce politik ni namenjen prepovedovanju regulativnega režima, temveč predlaganju prilagodljivega in razvijajočega se analitičnega okvira, ki bi lahko podprl vse ocenjevalne in regulativne postopke, ki bi jih lahko razvile zainteresirane strani, vključno z vladami in večstranskim sistemom.

Ker odločevalci na svetovni in nacionalni ravni razmišljajo o ustreznih političnih nastavitvah in vzvodih za uravnoteženje tveganj in koristi nove tehnologije, kot je umetna inteligenca, je analitični okvir mišljen kot dopolnilno orodje za zagotovitev, da se celoten nabor potencialnih posledic ustrezno odraža.

Hiter pojav tehnologij s kompleksnostjo in posledicami umetne inteligence spodbuja številne trditve o velikih koristih. Izzove pa tudi strahove pred velikimi tveganji, od individualne do geostrateške ravni.¹ Velik del dosedanjih razprav je bil obravnavan v binarnem smislu, saj se javno izražena stališča običajno pojavljajo na skrajnih koncih spektra. Trditve za ali proti umetni inteligenci so pogosto hiperbolične in jih je – glede na naravo tehnologije – težko oceniti.

Potreben je bolj pragmatičen pristop, kjer se hiperbola nadomesti s kalibriranimi in bolj podrobnimi ocenami. Tehnologija umetne inteligence se bo še naprej razvijala in zgodovina kaže, da ima tako rekoč vsaka tehnologija koristne in škodljive namene. Vprašanje je torej: kako lahko dosežemo ugodne rezultate te tehnologije, hkrati pa zmanjšamo tveganje za škodljive posledice, od katerih so nekatere lahko eksistencialne velikosti?

Prihodnost je vedno negotova, vendar je glede umetne inteligence in generativne umetne inteligence dovolj verodostojnih in strokovnih glasov, ki spodbujajo razmeroma previdnostni pristop. Poleg tega je potreben sistemski pristop, saj je umetna inteligenca razred tehnologij s široko uporabo in uporabo s strani več vrst uporabnikov. To pomeni, da je treba pri obravnavi posledic uporabe katere koli umetne inteligence za posameznike, družbeno življenje, državljansko življenje, družbeno življenje in v globalnem kontekstu upoštevati celoten kontekst.

Za razliko od večine drugih tehnologij je pri digitalnih in sorodnih tehnologijah čas med razvojem, izdajo in uporabo izjemno kratek, kar v veliki meri vodijo interesi produkcijskih podjetij ali agencij. Zaradi same narave – in glede na to, da temelji na digitalni hrbtenici – bo imela umetna inteligenca aplikacije, ki bodo hitro prodorne, kot smo že videli pri razvoju velikih jezikovnih modelov. Posledično lahko nekatere lastnosti postanejo očitne šele po sprostitvi, kar pomeni, da obstaja tveganje za nepredvidene posledice, tako zlonamerne kot dobronamerne.

Pomembne razsežnosti družbenih vrednot, zlasti v različnih regijah in kulturah, bodo vplivale na to, kako se vsaka uporaba dojema in sprejema. Poleg tega geostrateški interesi že prevladujejo v razpravi, pri čemer se suvereni in večstranski interesi nenehno križajo in tako spodbujajo konkurenco in delitve.

Do danes je bil velik del regulacije virtualne tehnologije v veliki meri viden skozi lečo „načel“ in prostovoljne skladnosti, čeprav z Zakonom EU o AI² in podobno smo priča premiku k bolj izvršljivim, a nekoliko ozkim predpisom. Vzpostavitev učinkovitega globalnega ali nacionalnega upravljanja tehnologije in/ali regulativnega sistema ostaja izziv in ni očitne rešitve. Vzdolž verige bo potrebnih več plasti odločanja na podlagi informacij o tveganju, od izumitelja do proizvajalca, uporabnika, vlade in večstranskega sistema.

Medtem ko so UNESCO, OECD, Evropska komisija in ZN med drugim razglasili načela na visoki ravni in se nadaljujejo različne razprave na visoki ravni v zvezi z vprašanji morebitnega upravljanja, regulacije, etike in varnosti, obstaja velik razkorak med temi načela in okvir upravljanja ali regulativni okvir. To je treba obravnavati.

Kot izhodišče ISC razmišlja o razvoju taksonomije premislekov, na katero bi se lahko skliceval vsak razvijalec, regulator, politični svetovalec, potrošnik ali odločevalec. Glede na široke posledice teh tehnologij mora taka taksonomija upoštevati celotno implikacijo in ne ozko usmerjeno uokvirjanje. Globalna razdrobljenost se povečuje zaradi vpliva geostrateških interesov na odločanje in glede na nujnost te tehnologije je bistvenega pomena, da neodvisni in nevtralni glasovi vztrajno zagovarjajo enoten in vključujoč pristop.

1) Hindustan Times. 2023. G20 mora ustanoviti mednarodni odbor za tehnološke spremembe.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Zakon EU o umetni inteligenci. 2023. https://artificialintelligenceact.eu

ISC je primarna globalna nevladna organizacija, ki povezuje naravoslovne in družbene vede. Njegov globalni in disciplinarni doseg pomeni, da je v dobrem položaju za ustvarjanje neodvisnih in globalno relevantnih nasvetov za obveščanje o zapletenih odločitvah, ki so pred nami, zlasti ker so trenutni glasovi na tem prizorišču večinoma iz industrije ali političnih in političnih skupnosti velikih tehnoloških sil.

Po obdobju obsežne razprave, ki je vključevala premislek o nevladnem procesu ocenjevanja, je ISC sklenil, da bi bil njegov najbolj koristen prispevek izdelava prilagodljivega analitičnega okvira, ki bi ga lahko uporabili kot osnovo za diskurz in odločanje vseh deležniki, tudi med morebitnimi uradnimi postopki ocenjevanja, ki se pojavijo.

Predhodni analitični okvir, ki je bil objavljen za razpravo in povratne informacije oktobra 2023, je imel obliko splošnega kontrolnega seznama, zasnovanega za uporabo tako v vladnih kot v nevladnih institucijah. Okvir je identificiral in raziskal potencial tehnologije, kot je umetna inteligenca in njene izpeljanke, skozi široko lečo, ki zajema blaginjo ljudi in družbe ter zunanje dejavnike, kot so ekonomija, politika, okolje in varnost. Nekateri vidiki kontrolnega seznama so morda pomembnejši od drugih, odvisno od konteksta, vendar se zdijo boljše odločitve bolj verjetne, če se upoštevajo vsa področja, tudi če se lahko nekatera v določenih primerih hitro identificirajo kot nepomembna. To je inherentna vrednost pristopa s kontrolnim seznamom.

Predhodni okvir je izhajal iz predhodnega dela in razmišljanja, vključno s poročilom Mednarodne mreže za vladno znanstveno svetovanje (INGSA) o digitalnem blagostanju3 in okvirom OECD za klasifikacijo sistemov umetne inteligence4, da bi predstavil celoto možnih priložnosti, tveganj in učinkov AI. Ti prejšnji izdelki so bili bolj omejeni glede na svoj namen glede na njihov čas in kontekst; obstaja potreba po splošnem okviru, ki predstavlja celotno paleto vprašanj tako kratkoročno kot dolgoročno.

Od objave je dokument za razpravo prejel znatno podporo številnih strokovnjakov in oblikovalcev politike. Mnogi so izrecno podprli priporočilo za razvoj prilagodljivega okvira, ki omogoča premišljeno in proaktivno upoštevanje tveganj in posledic tehnologije ter pri tem vedno upošteva celoto razsežnosti od posameznika do družbe in sistemov.

Ena od ključnih ugotovitev iz povratnih informacij je bila potrditev, da je več implikacij, obravnavanih v okviru, po naravi večplastnih in segajo v več kategorij. Na primer, dezinformacije bi lahko obravnavali iz individualne in geostrateške perspektive; tako bi bile posledice široke.

Predlagana je bila tudi možnost vključitve študij primerov ali primerov za testiranje ogrodja. To bi lahko uporabili za razvoj smernic, ki bi pokazale, kako bi ga lahko uporabili v praksi v različnih kontekstih. Vendar bi bil to pomemben podvig in bi lahko omejil, kako različne skupine dojemajo uporabo tega okvira. To najbolje naredijo oblikovalci politik, ki sodelujejo s strokovnjaki v določenih jurisdikcijah ali kontekstih.

Od oktobra 2023 je bilo izvedenih več pomembnih nacionalnih in večstranskih pobud z nadaljnjim upoštevanjem etike in varnosti umetne inteligence. Posledice umetne inteligence na integriteto nekaterih naših kritičnih sistemov, vključno s finančnimi, vladnimi, pravnimi in izobraževalnimi, pa tudi na različne sisteme znanja (vključno z znanstvenim in domačim znanjem), so vedno bolj zaskrbljujoče. Revidirani okvir dodatno odraža te vidike.

Povratne informacije, prejete do danes, se odražajo v revidirani različici analitičnega okvira, ki je zdaj objavljen kot vodnik za oblikovalce politik.

Medtem ko je okvir predstavljen v kontekstu umetne inteligence in sorodnih tehnologij, ga je mogoče takoj prenesti na vidike drugih hitro razvijajočih se tehnologij, kot sta kvantna in sintetična biologija.

3) Gluckman, P. in Allen, K. 2018. Razumevanje dobrega počutja v kontekstu hitre digitalne in z njo povezane transformacije. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Okvir OECD za klasifikacijo sistemov umetne inteligence. Dokumenti OECD o digitalnem gospodarstvu, št. 323, #. Pariz, OECD Publishing.
https://oecd.ai/en/classificatio

Naslednja tabela predstavlja dimenzije domnevnega analitičnega okvira. Navedeni so primeri, ki ponazarjajo, zakaj je lahko vsaka domena pomembna; v kontekstu bi okvir zahteval kontekstualno ustrezno razširitev. Prav tako je pomembno razlikovati med splošnimi težavami, ki se pojavijo med razvojem platforme, in tistimi, ki se lahko pojavijo med posebnimi aplikacijami. Nobenega posameznega vidika, vključenega tukaj, ne bi smeli obravnavati kot prednostnega in kot takega je treba preučiti vse.

Težave so na splošno razvrščene v naslednje kategorije, kot je opisano spodaj:

• Dobro počutje (vključno s počutjem posameznikov ali sebe, družbe, družbenega življenja in državljanskega življenja)
• Trgovina in gospodarstvo
• okoljska
• Geostrateško in geopolitično
• Tehnološki (značilnosti sistema, zasnova in uporaba)

Tabela podrobno opisuje dimenzije, ki jih je morda treba upoštevati pri ocenjevanju nove tehnologije.

– INGSA. 2018. Razumevanje dobrega počutja v kontekstu hitrih digitalnih in z njimi povezanih transformacij.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf

– Novi deskriptorji (pridobljeni z obsežnim posvetovanjem, povratnimi informacijami in pregledom literature)

– Okvir OECD za klasifikacijo sistemov umetne inteligence: orodje za učinkovite politike umetne inteligence.
https://oecd.ai/en/classification

Razsežnosti vpliva: posameznik/jaz

Dimenzije vpliva: Družba/socialno življenje

Razsežnosti vpliva: gospodarski kontekst (trgovina)

Razsežnosti vpliva: državljansko življenje

Razsežnosti vpliva: Geostrateški/geopolitični kontekst

Razsežnosti vpliva: Okoljski

Razsežnosti vpliva: Podatki in vnos

Dimenzije udarca: Model

Razsežnosti vpliva: Naloga in rezultat

Ta okvir bi lahko uporabili na več načinov, vključno z:

• Za premostitev vrzeli med načeli na visoki ravni in oceno za regulativne namene ali namene upravljanja. Okvir lahko to podpre z vzpostavitvijo potrjene skupne taksonomije vrste vprašanj, ki si zaslužijo obravnavo ustreznih zainteresiranih strani kot podlago za informiranje in oblikovanje nadaljnjega razmišljanja. Na primer, na nacionalni ravni bi lahko vlada uporabila okvir kot orodje, ko razvija nacionalno strategijo in politike umetne inteligence za vzpostavitev skupne osnove tveganj in priložnosti med skupinami deležnikov.
• Za obveščanje o ocenah učinka. Zakon o umetni inteligenci EU od organizacij, ki zagotavljajo orodja za umetno inteligenco ali uporabljajo umetno inteligenco v svojih procesih, zahteva, da opravijo oceno učinka, da ugotovijo tveganje svojih pobud in uporabijo ustrezen pristop obvladovanja tveganja. Tukaj predstavljen okvir bi lahko uporabili kot osnovo za to.
• Za informiranje horizontskega skeniranja za tveganja in prihodnje scenarije. Kategorizacija tveganj v vmesnem poročilu Svetovalnega organa ZN za umetno inteligenco6 je na splošno usklajena z okvirjem, predstavljenim v tem okviru. Obstaja priložnost, da se okvir uporabi za doseganje soglasja in preizkušanje resnosti nastajajočih tveganj ter njihovo vnaprejšnje preprečevanje.
• Okrepiti etična načela, potrebna za vodenje in upravljanje uporabe umetne inteligence. Okvir lahko to stori z zagotavljanjem prožne podlage, na kateri je mogoče razviti zaupanja vredne sisteme, in zagotavljanjem zakonite, etične, robustne in odgovorne uporabe tehnologije. Ta načela je mogoče preizkusiti glede na celoten obseg vplivov, predstavljenih v tem okviru.
• Olajšati pregled obstoječih in razvijajočih se ukrepov (regulativnih, zakonodajnih, političnih, standardov, upravljanja itd.) in identificirati vrzeli, ki jih je treba dodatno obravnavati. Te bi lahko preslikali glede na okvirne kategorije na nacionalni ali večnacionalni ravni, da bi ugotovili vrzeli in opredelili ustrezne ukrepe za ublažitev tveganj.
• Za podporo vladni uporabi umetne inteligence. Ker številne vlade določajo svoje strategije za uporabo umetne inteligence znotraj agencij in sistemov, bi se okvir lahko uporabil za opredelitev ustreznih pragov tveganja ter opredelitev ključnih deležnikov in odgovornosti.
• Za podporo javnega diskurza in vzpostavitev družbene licence o tem, kako se uporablja umetna inteligenca in podporni podatki, ki se bodo uporabljali v vladnih službah ali širše v družbi.

Pot naprej
Če povzamemo, je analitični okvir zagotovljen kot osnova kompleta orodij, ki bi ga lahko zainteresirane strani uporabile za celovit pregled morebitnega pomembnega razvoja platform ali uporabe na dosleden in sistematičen način. Razsežnosti, predstavljene v tem okviru, so pomembne od ocene tehnologije do javne politike, od človekovega razvoja do sociologije ter študij prihodnosti in tehnologije. Medtem ko je bil razvit za AI, ima ta analitični okvir veliko širšo uporabo za katero koli drugo nastajajočo tehnologijo.

• Svetovalni odbor ZN za umetno inteligenco. 2023. Vmesno poročilo: Upravljanje umetne inteligence za človeštvo. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd

Pri pripravi tako začetnega dokumenta za razpravo kot tudi povratnih informacij po njegovi objavi so se posvetovali številni ljudje, ki so podali povratne informacije. Oba dokumenta je pripravil Sir Peter Gluckman, predsednik ISC in Hema Sridhar, nekdanja glavna svetovalka za znanost na Ministrstvu za obrambo Nove Zelandije, zdaj pa višja raziskovalka Fellow, Univerza v Aucklandu, Nova Zelandija.

Zlasti lord ISC Martin Rees, nekdanji predsednik Kraljeve družbe in soustanovitelj Centra za preučevanje eksistencialnih tveganj Univerze v Cambridgeu; Profesor Shivaji Sondhi, profesor fizike, Univerza v Oxfordu; Profesor K Vijay Raghavan, nekdanji glavni znanstveni svetovalec indijske vlade; Amandeep Singh Gill, odposlanec generalnega sekretarja ZN za tehnologijo; Seán Ó hÉigeartaigh, izvršni direktor, Center za preučevanje eksistencialnih tveganj, Univerza v Cambridgeu; Sir David Spiegelhalter, Wintonov profesor javnega razumevanja tveganja, Univerza
iz Cambridgea; Amanda-June Brawner, višja politična svetovalka, in Ian Wiggins, direktor mednarodnih zadev, Kraljeva družba, Združeno kraljestvo; Dr. Jerome Duberry, generalni direktor in dr. Marie-Laure Salles, direktorica Geneva Graduate Institute; Chor Pharn Lee, Center za strateško prihodnost, Urad predsednika vlade, Singapur; Barend Mons in dr. Simon Hodson, Odbor za podatke (CoDATA); Profesor Yuko Harayama, nekdanji izvršni direktor, RIKEN; profesor
Rémi Quirion, predsednik, INGSA; dr. Claire Craig, Univerza v Oxfordu in nekdanja vodja oddelka za predvidevanje, vladni urad za znanost; prof. Yoshua Bengio, znanstveni svetovalni odbor generalnega sekretarja ZN in Université de Montréal; in mnogi drugi, ki so posredovali povratne informacije ISC o začetnem dokumentu za razpravo.