Prijava

Pred vrhom o varnosti umetne inteligence 2023 ISC izda dokument za razpravo o okviru za ocenjevanje umetne inteligence in hitro razvijajočih se digitalnih tehnologij

Znanstveni raziskovalci in izvajalci umetne inteligence so vabljeni, da se odzovejo na dokument za razpravo ISC in predlagani okvir za umetno inteligenco.

Številni akademiki in politični strokovnjaki so predlagali, da Mednarodni znanstveni svet – s svojim pluralističnim članstvom iz družbenih in naravoslovnih ved – vzpostavi postopek za izdelavo in vzdrževanje označenega okvira/kontrolnega seznama tveganj, koristi, nevarnosti in priložnosti. povezanih s hitro premikajočimi se digitalnimi tehnologijami, vključno – vendar ne omejeno na – AI. Namen kontrolnega seznama bi bil obvestiti vse zainteresirane strani – vključno z vladami, trgovinskimi pogajalci, regulatorji, civilno družbo in industrijo – o morebitnih prihodnjih scenarijih in bi oblikoval, kako bi lahko upoštevali priložnosti, koristi, tveganja in druga vprašanja.


Dokument za razpravo ISC

Okvir za ocenjevanje hitro razvijajočih se digitalnih in sorodnih tehnologij: AI, veliki jezikovni modeli in več

Ta dokument za razpravo ponuja oris začetnega okvira za obveščanje o številnih globalnih in nacionalnih razpravah, ki potekajo v zvezi z umetno inteligenco.


Pridružite se razpravi

Vabimo vas, da se pridružite razpravi o idejah, predstavljenih v tem dokumentu, in o njegovem okviru z uporabo obrazca na dnu strani.


ISC z veseljem predstavlja ta dokument za razpravo o ocenjevanju hitro razvijajoče se digitalne in sorodne tehnologije. Umetna inteligenca, sintetična biologija in kvantne tehnologije so najboljši primeri inovacij, ki jih je podprla znanost in se pojavljajo z izjemno hitrostjo. Sistematično predvidevanje ne le njihove uporabe, ampak tudi njihovih posledic je lahko izziv.

Vrednotenje družbenih vidikov generativne umetne inteligence, kot so veliki jezikovni modeli, ki predvidljivo predstavljajo večji del tega dokumenta za razpravo, je potreben most znotraj trenutnega diskurza – včasih ga vodi panika, drugič premalo poglobljeno – in potrebnih tečajev ukrepanje, ki ga lahko izvedemo. ISC je prepričan, da je potreben analitični okvir med družbeno sprejemljivostjo takšnih novih tehnologij in njihovo možno regulacijo za olajšanje razprav z več deležniki, ki so potrebne za sprejemanje ozaveščenih in odgovornih odločitev o tem, kako optimizirati družbene koristi te hitro razvijajoče se tehnologije.

ISC je odprt za odzive naše skupnosti prek tega dokumenta za razpravo, da oceni, kako najbolje še naprej biti del razprave o tehnologiji in prispevati k njej.

Salvatore Aricò, izvršni direktor

Sodelujoči pri prispevku:

Pri pripravi tega dokumenta, ki ga je pripravil/a Sir Peter Gluckman, predsednik ISC in Hema Sridhar, nekdanja glavna znanstvenica na Ministrstvu za obrambo, zdaj pa višja raziskovalna sodelavka na Univerzi v Aucklandu na Novi Zelandiji. 

Posebej se zahvaljujemo:

  • Lord Martin Rees, nekdanji predsednik Kraljeve družbe in soustanovitelj Centra za preučevanje eksistencialnih tveganj Univerze v Cambridgeu;
  • Profesor Shivaji Sondhi, profesor fizike, Univerza v Oxfordu;
  • Profesor K Vijay Raghavan, nekdanji glavni znanstveni svetovalec indijske vlade;
  • Amandeep Singh Gill, odposlanec generalnega sekretarja ZN za tehnologijo;
  • dr. Seán Óh Éigeartaigh, izvršni direktor, Center za preučevanje eksistencialnih tveganj, Univerza v Cambridgeu;
  • Amanda-June Brawner, višja politična svetovalka in Ian Wiggins, direktor mednarodnih zadev, Royal Society UK;
  • dr. Jerome Duberry, dr. Marie-Laure Salles, direktorica Geneva Graduate Institute;
  • g. Chor Pharn Lee, Center za strateško prihodnost, kabinet predsednika vlade, Singapur;
  • Barend Mons in dr. Simon Hodson, Odbor za podatke (CoDATA);
  • prof. Yuko Harayama, Japonska;
  • Profesor Rémi Quirion, predsednik, INGSA;
  • dr. Claire Craig, Univerza v Oxfordu in nekdanja vodja oddelka za predvidevanje, vladni urad za znanost; in
  • Prof Yoshua Bengio, znanstveni svetovalni odbor generalnega sekretarja ZN in Université de Montréal.

Kaj se še dogaja v AI na ISC?

ISC-jev možganski trust, Center for Science Futures, naj bi v začetku leta 2024 izdal delovni dokument o »Pripravi znanstvenih ekosistemov za umetno inteligenco«. Dokument bo vključeval pregled literature, zemljevid težav in vrsto kratkih študij primerov držav. Upamo, da bo dokument prispeval k spodbujanju razprav med oblikovalci politik, voditelji industrije in raziskovalci, ko bodo razvijali načrte za izkoriščanje potenciala umetne inteligence za izboljšanje znanosti in raziskav.

Svetovni SEJEM

AI za znanost: Vpogledi iz Azije in Pacifika 

V začetku oktobra je Center za prihodnost znanosti ISC označil ključni trenutek v svoji najnovejši pobudi o umetni inteligenci (AI) za znanost, saj se je 14 cenjenih delegatov in strokovnjakov, ki so predstavljali 12 držav, večinoma iz azijsko-pacifiške regije, zbralo na pravočasnem srečanju v Kuala Lumpur, Malezija s podporo Avstralske akademije znanosti. ➡️RŠe več

AI spreminja znanost – kako? Kdo naj moti?

Kritičen pogled na vpliv umetne inteligence (AI) na znanost z različnih zornih kotov in akterjev – od javnih financerjev do zasebnih visokotehnoloških ustanov – razkriva skupno zaskrbljenost zaradi pomanjkanja preglednosti in sodelovanja pri oblikovanju pristopa, ki bi bil bolj osredotočen na človeka. izpolni obljubo znanosti kot globalne javne dobrine. ➡️RŠe več


Povratne informacije AI

Ime
Spol
Varstvo podatkov: Anketiranci se morajo zavedati, da bo ISC hranil predložene podatke v času trajanja pobude (glejte: https://council.science/privacy-policy)
Vabimo vas, da se naročite na ISC Newsletter.

Slika: adamichi na iStocku