Okvir za ocenjevanje hitro razvijajočih se digitalnih in sorodnih tehnologij: AI, veliki jezikovni modeli in več

• Uvod 
• Ozadje 
• Razvoj analitičnega okvira 
• Uporaba analitičnega okvira 
• Razsežnosti, ki jih je treba upoštevati pri ocenjevanju nove tehnologije 
• Pot naprej 
• Priznanja

Hitro razvijajoče se tehnologije predstavljajo zahtevna vprašanja, ko gre za njihovo upravljanje in morebitno regulacijo. Politika in javne razprave o umetni inteligenci (AI) in njeni uporabi so ta vprašanja postavile v središče pozornosti. Medtem ko so UNESCO, OECD in drugi razglasili široka načela za umetno inteligenco in potekajo razprave o globalni ali jurisdikcijski ureditvi tehnologije, obstaja ontološka vrzel med razvojem načel na visoki ravni in njihovo vključitvijo v regulativo, politiko, pristopi upravljanja in skrbništva. Tu bi lahko imela posebno vlogo nevladna znanstvena skupnost. 

Številni akademiki in politični strokovnjaki so predlagali, da Mednarodni znanstveni svet (ISC) – s svojim pluralističnim članstvom iz družbenih in naravoslovnih ved – vzpostavi postopek za izdelavo in vzdrževanje označenega okvira/kontrolnega seznama tveganj, koristi, grožnje in priložnosti, povezane s hitro premikajočimi se digitalnimi tehnologijami, vključno – a ne omejeno na – AI. Namen kontrolnega seznama bi bil obvestiti vse zainteresirane strani – vključno z vladami, trgovinskimi pogajalci, regulatorji, civilno družbo in industrijo – o morebitnih prihodnjih scenarijih in bi oblikoval, kako bi lahko upoštevali priložnosti, koristi, tveganja in druga vprašanja. 

Rezultati ne bi delovali kot ocenjevalni organ, ampak kot prilagodljiv in razvijajoč se analitični okvir, ki bi lahko podprl vse ocenjevalne in regulativne postopke, ki bi jih lahko razvile zainteresirane strani, vključno z vladami in večstranskim sistemom. Vsak analitični okvir bi moral biti v idealnem primeru razvit neodvisno od vladnih in industrijskih trditev glede na njihove razumljive interese. Prav tako mora biti čim bolj pluralističen v svojih perspektivah, tako da zajema vse vidike tehnologije in njenih posledic. 

Ta dokument za razpravo ponuja oris začetnega okvira za obveščanje o številnih globalnih in nacionalnih razpravah, ki potekajo v zvezi z umetno inteligenco. 

Hiter pojav tehnologije s kompleksnostjo in posledicami umetne inteligence spodbuja številne trditve o velikih koristih. Izzove pa tudi strahove pred velikimi tveganji, od individualne do geostrateške ravni. Velik del razprave poteka na skrajnih koncih spektra pogledov, zato je potreben bolj pragmatičen pristop. Tehnologija umetne inteligence se bo še naprej razvijala in zgodovina kaže, da ima tako rekoč vsaka tehnologija koristne in škodljive namene. Vprašanje je torej: kako lahko s to tehnologijo dosežemo ugodne rezultate, hkrati pa zmanjšamo tveganje škodljivih posledic, od katerih so nekatere lahko eksistencialnega obsega? 

Prihodnost je vedno negotova, vendar je glede umetne inteligence in generativne umetne inteligence dovolj verodostojnih in strokovnih glasov, ki spodbujajo razmeroma previdnostni pristop. Poleg tega je potreben sistemski pristop, saj je umetna inteligenca razred tehnologij s široko uporabo in uporabo s strani več vrst uporabnikov. To pomeni, da je treba pri obravnavi posledic umetne inteligence za posameznike, družbeno življenje, državljansko življenje, družbeno življenje in v globalnem kontekstu upoštevati celoten kontekst. 

Za razliko od večine preteklih tehnologij imajo digitalne in sorodne tehnologije zelo kratko obdobje od razvoja do izdaje, kar v veliki meri vodijo interesi produkcijskih podjetij ali agencij. AI je hitro prodoren; nekatere lastnosti lahko postanejo očitne šele po sprostitvi, tehnologija pa ima lahko zlonamerne in dobronamerne aplikacije. Razsežnosti pomembnih vrednosti bodo vplivale na to, kako se dojema uporaba. Poleg tega so lahko v igri geostrateški interesi. 

Do danes je bila ureditev virtualne tehnologije večinoma obravnavana skozi lečo "načel" in prostovoljnega izpolnjevanja. Nedavno pa se je razprava obrnila na vprašanja nacionalnega in večstranskega upravljanja, vključno z uporabo regulativnih in drugih političnih orodij. Trditve za ali proti umetni inteligenci so pogosto hiperbolične in jih je – glede na naravo tehnologije – težko oceniti. Vzpostavitev učinkovitega globalnega ali nacionalnega sistema tehnološke regulacije bo izziv in vzdolž verige bo potrebnih več plasti odločanja na podlagi informacij o tveganju, od izumitelja do proizvajalca, uporabnika, vlade in večstranskega sistema. 

Medtem ko so UNESCO, OECD in Evropska komisija med drugim razglasili načela na visoki ravni in potekajo različne razprave na visoki ravni v zvezi z vprašanji morebitne regulacije, obstaja velika ontološka vrzel med takimi načeli in okvirom upravljanja ali regulativnim okvirom. Kakšna je taksonomija premislekov, ki bi jih regulator morda moral upoštevati? Ozko usmerjeno oblikovanje bi bilo nespametno glede na široke posledice teh tehnologij. Ta potencial je bil predmet številnih komentarjev, tako pozitivnih kot negativnih.

ISC je primarna globalna nevladna organizacija, ki povezuje naravoslovne in družbene vede. Njegov globalni in disciplinarni doseg pomeni, da je v dobrem položaju za ustvarjanje neodvisnih in globalno pomembnih nasvetov za obveščanje o zapletenih odločitvah, ki so pred nami, zlasti ker so trenutni glasovi na tem prizorišču večinoma iz industrije ali iz velikih tehnoloških sil. Po obsežni razpravi v zadnjih mesecih, vključno z obravnavo nevladnega postopka ocenjevanja, je ISC sklenil, da bi bil njegov najbolj koristen prispevek izdelava in vzdrževanje prilagodljivega analitičnega okvira, ki bi ga lahko uporabili kot osnovo za diskurz in odločanje vse zainteresirane strani, tudi med kakršnim koli formalnim postopkom ocenjevanja, ki se pojavi. 

Ta okvir bi bil v obliki splošnega kontrolnega seznama, ki bi ga lahko uporabljale tako vladne kot nevladne institucije. Ogrodje identificira in raziskuje potencial tehnologije, kot je umetna inteligenca in njene izpeljanke, skozi široko lečo, ki zajema blaginjo ljudi in družbe ter zunanje dejavnike, kot so ekonomija, politika, okolje in varnost. Nekateri vidiki kontrolnega seznama so morda pomembnejši od drugih, odvisno od konteksta, vendar so boljše odločitve verjetnejše, če se upoštevajo vsa področja. To je inherentna vrednost pristopa s kontrolnim seznamom. 

Predlagani okvir izhaja iz prejšnjega dela in razmišljanja, vključno s poročilom o digitalni blaginji Mednarodne mreže za vladno znanstveno svetovanje (INGSA).¹ in klasifikacijski okvir OECD AI² predstaviti celoto možnih priložnosti, tveganj in učinkov umetne inteligence. Ti prejšnji izdelki so bili glede na svoj namen bolj omejeni glede na njihov čas in kontekst, zato obstaja potreba po splošnem okviru, ki predstavlja celoten obseg vprašanj tako kratkoročno kot dolgoročno. 

Medtem ko je bil razvit za upoštevanje umetne inteligence, bi se ta analitični okvir lahko uporabil za katero koli hitro razvijajočo se tehnologijo. Težave so na splošno razvrščene v naslednje kategorije za nadaljnjo preučitev: 

• Dobro počutje (vključno s počutjem posameznikov ali sebe, družbe in družbenega življenja ter državljanskega življenja) 
• Trgovina in gospodarstvo 
• okoljska 
• Geostrateško in geopolitično 
• Tehnološki (značilnosti sistema, zasnova in uporaba) 

Vključen je seznam premislekov za vsako od zgornjih kategorij skupaj z njihovimi priložnostmi in posledicami. Nekateri so pomembni za posebne primere ali aplikacije umetne inteligence, medtem ko so drugi generični in neodvisni od platforme ali uporabe. Nobenega posameznega vidika, vključenega tukaj, ne bi smeli obravnavati kot prednostnega in kot takega je treba preučiti vse. 

To ogrodje je mogoče uporabiti na naslednje načine, vendar ne omejeno na: 

• Za premostitev vrzeli med načeli in ocenjevanjem z vzpostavitvijo potrjene skupne taksonomije nabora premislekov, ki bi jih lahko ustrezne zainteresirane strani uporabile kot osnovo za informiranje in oblikovanje nadaljnjega razmišljanja, vključno z okvirom ocenjevanja, ki bi ga lahko razvili organi. 

• Za obveščanje o ocenah učinka. Zakon o umetni inteligenci EU od organizacij, ki zagotavljajo orodja za umetno inteligenco ali uporabljajo umetno inteligenco v svojih procesih, zahteva, da opravijo oceno učinka, da ugotovijo tveganje svojih pobud in uporabijo ustrezen pristop obvladovanja tveganja. Tukaj predstavljen okvir bi lahko uporabili kot osnovo za to. 

• Okrepiti etična načela, potrebna za vodenje in upravljanje uporabe umetne inteligence. Okvir lahko to stori z zagotavljanjem prožne podlage, na kateri je mogoče razviti zaupanja vredne sisteme, in zagotavljanjem zakonite, etične, robustne in odgovorne uporabe tehnologije. Ta načela je mogoče preizkusiti glede na celoten obseg vplivov, predstavljenih v tem okviru. 
• Za lažji pregled obstoječih ukrepov (tj. regulativnih, zakonodajnih, političnih) in prepoznavanje morebitnih vrzeli, ki jih je treba dodatno obravnavati. 

• Ogrodje je agnostično glede na tehnologijo in njeno uporabo. Zato bi se lahko uporabljal na precej različnih področjih, kot je sintetična biologija. 

Naslednja tabela je zgodnje oblikovanje dimenzij analitičnega ogrodja. Odvisno od tehnologije in njene uporabe bodo nekatere komponente pomembnejše od drugih. Primeri so navedeni, da ponazorijo, zakaj je lahko vsaka domena pomembna; v kontekstu bi okvir zahteval kontekstualno ustrezno razširitev. Prav tako je pomembno razlikovati med razvojem platforme in splošnimi težavami, ki se lahko pojavijo med posameznimi aplikacijami.  

Ključ do viri deskriptorjev

Golo besedilo:
Gluckman, P. in Allen, K. 2018. Razumevanje dobrega počutja v kontekstu hitrih digitalnih in z njimi povezanih transformacij. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Krepko besedilo:
OECD. 2022. Okvir OECD za klasifikacijo sistemov umetne inteligence. OECD Digital Economy Papers, št. 323, OECD Publishing, Pariz. https://oecd.ai/en/classification 

Ležeče besedilo:
Novi deskriptorji (iz več virov) 

Glede na odziv na ta dokument za razpravo bi ISC oblikoval strokovno delovno skupino za nadaljnji razvoj ali spremembo zgornjega analitičnega okvira, s katerim bi lahko deležniki celovito preučili morebitne pomembne razvoje platform ali dimenzij uporabe. Delovna skupina bi bila disciplinarno, geografsko in demografsko raznolika, s strokovnim znanjem in izkušnjami, ki bi segala od ocene tehnologije do javne politike, od človekovega razvoja do sociologije ter študij prihodnosti in tehnologije. 

Če želite sodelovati s tem dokumentom za razpravo, obiščite Council.science/publications/framework-digital-technologies 

Pri pripravi tega dokumenta, ki ga je pripravil/a Sir Peter Gluckman, predsednik ISC in Hema Sridhar, nekdanja glavna znanstvenica na Ministrstvu za obrambo, zdaj pa višja raziskovalna sodelavka na Univerzi v Aucklandu na Novi Zelandiji. 

Še posebej se zahvaljujemo lordu Martinu Reesu, nekdanjemu predsedniku Kraljeve družbe in soustanovitelju Centra za preučevanje eksistencialnih tveganj Univerze v Cambridgeu; Profesor Shivaji Sondhi, profesor fizike, Univerza v Oxfordu; Profesor K Vijay Raghavan, nekdanji glavni znanstveni svetovalec indijske vlade; Amandeep Singh Gill, odposlanec generalnega sekretarja ZN za tehnologijo; dr. Seán Óh Éigeartaigh, izvršni direktor, Center za preučevanje eksistencialnih tveganj, Univerza v Cambridgeu; Amanda-June Brawner, višja politična svetovalka in Ian Wiggins, direktor mednarodnih zadev, Royal Society UK; dr. Jerome Duberry, dr. Marie-Laure Salles, direktorica Geneva Graduate Institute; g. Chor Pharn Lee, Center za strateško prihodnost, kabinet predsednika vlade, Singapur; Barend Mons in dr. Simon Hodson, Odbor za podatke (CoDATA); prof. Yuko Harayama, Japonska; Profesor Rémi Quirion, predsednik INGSA; dr. Claire Craig, Univerza v Oxfordu in nekdanja vodja oddelka za predvidevanje, vladni urad za znanost; in prof Yoshua Bengio, znanstveni svetovalni odbor generalnega sekretarja ZN in Université de Montréal. Pristop kontrolnega seznama je bil na splošno podprt in poudarjena je bila pravočasnost vsakega ukrepa ISC.