Pituduh ISC nawiskeun kerangka komprehensif anu dirancang pikeun ngajagi jurang antara prinsip-prinsip tingkat luhur sareng kawijakan praktis anu tiasa dilampahkeun. Éta ngaréspon kana kabutuhan anu penting pikeun pamahaman umum ngeunaan kasempetan sareng résiko anu disayogikeun ku téknologi anu muncul. Ieu mangrupikeun dokumén penting pikeun anu damel di nexus kawijakan dina jaman digital urang anu robih gancang.
Kerangka ieu ngajalajah poténsi AI sareng turunanna ngalangkungan lensa komprehensif, ngalangkungan karaharjaan manusa sareng masarakat sareng faktor éksternal sapertos ékonomi, politik, lingkungan, sareng kaamanan. Sababaraha aspék Daptar pariksa bisa jadi leuwih relevan ti batur, gumantung kana konteks, tapi kaputusan hadé sigana leuwih gampang lamun sakabeh domain dianggap, sanajan sababaraha bisa gancang diidentifikasi minangka nyimpang dina kasus nu tangtu. Ieu nilai alamiah tina pendekatan Daptar pariksa.
"Dina jaman anu ditandaan ku inovasi téknologi gancang sareng tantangan global anu kompleks, kerangka ISC pikeun analisa komprehensif sareng multidimensional ngeunaan dampak poténsial nguatkeun pamimpin pikeun nyandak kaputusan anu terang sareng tanggung jawab. Éta mastikeun yén nalika urang maju sacara téknologi, urang ngalakukeunana kalayan ati-ati implikasi étika, sosial, sareng ékonomi".
Peter Gluckman, Présidén ISC
Sanaos prinsip-prinsip tingkat luhur parantos diumumkeun ku UNESCO, OECD, Komisi Éropa sareng PBB, antara anu sanésna, sareng sagala rupa diskusi diteruskeun ngeunaan masalah poténsi pamaréntahan, pangaturan, étika sareng kaamanan, aya jurang anu ageung antara prinsip-prinsip sapertos kitu sareng a governance atawa kerangka pangaturan. ISC alamat kabutuhan ieu ngaliwatan pituduh anyar na pikeun pembuat kawijakan.
Pituduh pikeun pembuat kawijakan ieu henteu dimaksudkeun pikeun ngalarang rézim pangaturan, tapi pikeun nyarankeun kerangka analitik anu adaptif sareng berkembang anu tiasa ngadukung prosés penilaian sareng pangaturan anu tiasa dikembangkeun ku pamangku kapentingan, kalebet pamaréntahan sareng sistem multilateral.
"Kerangka ieu mangrupikeun léngkah kritis dina paguneman global ngeunaan AI sabab nyayogikeun dasar pikeun ngawangun konsensus ngeunaan implikasi téknologi pikeun ayeuna sareng ka hareup".
Hema Sridhar, Urut Kapala Panaséhat Élmu, Kamentrian Pertahanan, Selandia Anyar sareng ayeuna Panaliti Senior Fellow, Universitas Auckland, Selandia Anyar.
Kusabab Oktober 2023, parantos aya sababaraha inisiatif nasional sareng multilateral anu penting kalayan pertimbangan salajengna ngeunaan étika sareng kaamanan AI. Implikasi AI dina integritas sababaraha sistem kritis urang, kaasup finansial, pamaréntah, hukum jeung atikan, kitu ogé sistem pangaweruh béda (kaasup pangaweruh ilmiah jeung pribumi), beuki perhatian. kerangka salajengna ngagambarkeun aspék ieu.
Eupan balik anu ditampi ti Anggota ISC sareng komunitas pembuatan kawijakan internasional dugi ka ayeuna ditingali dina versi révisi kerangka analitik, anu ayeuna dileupaskeun salaku pituduh pikeun pembuat kawijakan.
Pituduh pikeun pembuat kawijakan: Evaluating téknologi ngembang pesat kaasup AI, model basa badag tur saluareun
Tulisan diskusi ieu nyayogikeun kerangka awal pikeun nginpokeun sababaraha diskusi global sareng nasional anu aya hubunganana sareng AI.
Unduh kerangka pikeun dianggo dina organisasi anjeun
Di dieu kami nyayogikeun alat kerangka salaku lambaran Excel anu tiasa diédit pikeun dianggo dina organisasi anjeun. Upami anjeun resep format open source, mangga ngahubungi [email dijaga].
perkenalan
Téknologi anu gancang muncul nampilkeun masalah anu nangtang ngeunaan panggunaanana, pamaréntahan sareng pangaturan poténsial. Kabijakan anu lumangsung sareng debat umum ngeunaan intelijen buatan (AI) sareng panggunaanana parantos nyababkeun masalah ieu kana fokus anu parah. Prinsip-prinsip luas pikeun AI parantos diumumkeun ku UNESCO, OECD, PBB sareng anu sanésna, kalebet Déklarasi Bletchley Inggris, sareng aya usaha yurisdiksi anu muncul dina pangaturan aspék téknologi ngaliwatan, contona, Uni Éropa (EU) AI. Act atanapi Orde Eksekutif AI Amérika Serikat anyar.
Sanaos panggunaan AI dibahas panjang lebar dina ieu sareng forum anu sanés, ngalangkungan pamisahan géopolitik sareng di nagara-nagara di sadaya tingkat panghasilan, tetep aya gap ontologis antara pamekaran prinsip-prinsip tingkat luhur sareng asupna kana prakték ngaliwatan pangaturan, kawijakan, pamaréntahan. atawa pendekatan stewardship. Jalur tina prinsip pikeun prakték kirang ditetepkeun, tapi tinangtu sifat sareng irama pangembangan AI sareng aplikasi, rupa-rupa minat sareng sauntuyan aplikasi anu mungkin, pendekatan naon waé henteu tiasa langkung umum atanapi preskriptif.
Kusabab ieu, komunitas ilmiah non-pamaréntah terus maénkeun peran anu khusus. Dewan Élmu Internasional (ISC) - kalayan kaanggotaan pluralistik tina élmu sosial sareng alam - ngaluarkeun makalah diskusi dina Oktober 2023 nampilkeun kerangka analitik awal anu nganggap résiko, kauntungan, ancaman sareng kasempetan anu aya hubunganana sareng téknologi digital anu gancang. Sanaos dikembangkeun pikeun nganggap AI, éta mangrupikeun téknologi agnostik sareng tiasa diterapkeun kana sauntuyan téknologi anu muncul sareng disruptive, sapertos biologi sintétik sareng kuantum. Éta makalah diskusi ngondang tanggapan ti akademisi sareng pembuat kawijakan. Eupan balik anu luar biasa ngajantenkeun analisa sapertos kitu diperyogikeun sareng janten pendekatan anu berharga pikeun ngatasi téknologi anu muncul sapertos AI.
Tujuan tina kerangka nyaéta pikeun nyayogikeun alat pikeun nginpokeun ka sadaya pamangku kapentingan - kalebet pamaréntahan, negotiators perdagangan, régulator, masarakat sipil sareng industri - ngeunaan évolusi téknologi ieu pikeun ngabantosan aranjeunna ngararangkay kumaha aranjeunna tiasa nganggap implikasi, positip atanapi négatif, tina téhnologi sorangan, sarta leuwih husus aplikasi husus na. Kerangka analitik ieu dikembangkeun sacara mandiri tina kapentingan pamaréntah sareng industri. Éta sacara maksimal pluralistik dina sudut pandangna, ngalangkungan sagala aspek téknologi sareng implikasina dumasar kana konsultasi sareng tanggapan anu éksténsif.
Makalah sawala pikeun pembuat kabijakan ieu henteu dimaksudkeun pikeun ngalarang rezim pangaturan, tapi pikeun nyarankeun kerangka analitis anu adaptif sareng berkembang anu tiasa ngadukung sagala prosés penilaian sareng pangaturan anu tiasa dikembangkeun ku pamangku kapentingan, kalebet pamaréntahan sareng sistem multilateral.
Salaku panyusun kaputusan sacara global sareng nasional nimbangkeun setélan sareng pengungkit kabijakan anu pas pikeun nyaimbangkeun résiko sareng ganjaran tina téknologi anyar sapertos AI, kerangka analitik dimaksudkeun salaku alat pelengkap pikeun mastikeun set pinuh ku poténsi implikasi anu cukup dicerminkeun.
Latar: naha kerangka analitik?
Mecenghulna gancang téknologi kalayan pajeulitna sareng implikasi AI nyababkeun seueur klaim kauntungan anu ageung. Sanajan kitu, eta oge provokes takwa tina resiko signifikan, ti individu ka tingkat geostrategic.1 Seueur sawala dugi ka ayeuna parantos dipertimbangkeun dina arti binér sabab pandangan anu dikedalkeun sacara umum condong lumangsung di tungtung spéktrum anu ekstrim. Klaim anu dilakukeun pikeun atanapi ngalawan AI sering hiperbolik sareng - tinangtu sipat téknologi - sesah ditaksir.
Perlu pendekatan anu leuwih pragmatis dimana hyperbole diganti ku evaluasi anu dikalibrasi sareng langkung granular. Téknologi AI bakal terus mekar, sareng sajarah nunjukkeun yén ampir unggal téknologi gaduh kagunaan anu mangpaat sareng ngabahayakeun. Patarosanna nyaéta, ku kituna: kumaha urang tiasa ngahontal hasil anu mangpaat tina téknologi ieu, bari ngirangan résiko akibat anu ngabahayakeun, sababaraha diantarana tiasa janten eksistensial?
Masa depan sok teu pasti, tapi aya sora anu dipercaya sareng ahli ngeunaan AI sareng AI generatif pikeun nyorong pendekatan anu rélatif pancegahan. Salaku tambahan, pendekatan sistem diperyogikeun sabab AI mangrupikeun kelas téknologi anu dianggo sareng aplikasi anu lega ku sababaraha jinis pangguna. Ieu ngandung harti yén kontéks lengkep kedah dipertimbangkeun nalika nimbangkeun implikasi tina panggunaan AI pikeun individu, kahirupan sosial, kahirupan sipil, kahirupan masarakat sareng dina kontéks global.
Beda sareng sabagéan ageung téknologi sanés, pikeun téknologi digital sareng anu aya hubunganana, waktos antara pamekaran, sékrési sareng aplikasina pondok pisan, kalolobaanana didorong ku kapentingan perusahaan atanapi agénsi produksi. Sacara alamiah - sareng dumasar kana tulang tonggong digital - AI bakal gaduh aplikasi anu gancang pervasive, sapertos anu parantos katingal ku pamekaran modél basa ageung. Hasilna, sababaraha sipat ngan ukur tiasa katingali saatos dileupaskeun, hartosna aya résiko akibat anu teu disangka-sangka, boh jahat sareng benevolent.
Diménsi nilai-nilai sosial anu penting, khususna di daérah sareng budaya anu béda-béda, bakal mangaruhan kumaha pamakean anu ditanggap sareng ditampi. Saterusna, kapentingan geostrategis geus ngadominasi diskusi, kalawan kapentingan daulat sarta multilateral terus intersecting sahingga ngabalukarkeun kompetisi jeung division.
Nepi ka ayeuna, seueur régulasi téknologi virtual umumna katingal tina lénsa 'prinsip' sareng patuh sukarela, sanaos sareng UU AI EU.2 sareng sami sareng urang ningali peralihan kana peraturan anu langkung tiasa dilaksanakeun tapi rada sempit. Ngadegkeun pamaréntahan téknologi global atanapi nasional anu efektif sareng / atanapi sistem pangaturan tetep nangtang sareng teu aya solusi anu jelas. Sababaraha lapisan tina resiko-informed kaputusan-pembuatan bakal diperlukeun sapanjang ranté, ti inventor ka produser, ka pamaké, ka pamaréntah jeung ka sistem multilateral.
Sanaos prinsip-prinsip tingkat luhur parantos diumumkeun ku UNESCO, OECD, Komisi Éropa sareng PBB, antara anu sanésna, sareng sagala rupa diskusi tingkat luhur diteruskeun ngeunaan masalah poténsi pamaréntahan, pangaturan, étika sareng kaamanan, aya jurang anu ageung antara sapertos kitu. prinsip jeung tata kelola atawa kerangka pangaturan. Ieu perlu kajawab.
Salaku titik awal, ISC nganggap ngembangkeun taksonomi tina pertimbangan anu tiasa dirujuk ku pamekar, régulator, panaséhat kawijakan, konsumen atanapi pembuat kaputusan. Dibikeun implikasi anu lega tina téknologi ieu, taksonomi sapertos kitu kedah nganggap totalitas implikasi tinimbang framing anu museur heureut. Fragméntasi global naek alatan pangaruh kapentingan geostrategis dina pembuatan kaputusan, sarta dibere urgency tina téhnologi ieu, penting pisan pikeun sora bebas jeung nétral pikeun persistently juara pendekatan ngahiji jeung inklusif.
1) Hindustan Times. 2023. G20 kedah nyetél hiji panel internasional ngeunaan parobahan téhnologis.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) UU Kecerdasan Buatan EU. 2023. https://artificialintelligenceact.eu
Ngembangkeun kerangka analitik
ISC mangrupikeun organisasi non-pamaréntah global primér anu ngahijikeun élmu alam sareng sosial. Jangkauan global sareng disiplin na hartosna éta ditempatkeun saé pikeun ngahasilkeun nasihat anu mandiri sareng relevan sacara global pikeun nginpokeun pilihan anu kompleks di hareup, khususna salaku sora ayeuna di arena ieu sakitu legana ti industri atanapi tina kawijakan sareng komunitas politik tina kakuatan téknologi utama.
Saatos periode diskusi éksténsif, anu kalebet pertimbangan prosés penilaian non-pamaréntah, ISC nyimpulkeun yén kontribusi anu paling mangpaatna nyaéta pikeun ngahasilkeun kerangka analitik adaptif anu tiasa dianggo salaku dasar pikeun wacana sareng pengambilan kaputusan ku sadayana. stakeholder, kaasup dina mangsa sagala prosés assessment formal anu muncul.
Kerangka analitik awal, anu dileupaskeun pikeun diskusi sareng eupan balik dina Oktober 2023, nyandak bentuk daptar pariksa lengkep anu dirancang pikeun dianggo ku lembaga pamaréntah sareng non-pamaréntah. Kerangka ieu ngaidentipikasi sareng ngajalajah poténsi téknologi sapertos AI sareng turunanna ngalangkungan lénsa anu lega anu ngalangkungan karaharjaan manusa sareng masarakat, ogé faktor éksternal sapertos ékonomi, politik, lingkungan sareng kaamanan. Sababaraha aspék Daptar pariksa bisa jadi leuwih relevan ti batur, gumantung kana konteks, tapi kaputusan hadé sigana leuwih gampang lamun sakabeh domain dianggap, sanajan sababaraha bisa gancang diidentifikasi minangka nyimpang dina kasus nu tangtu. Ieu nilai alamiah tina pendekatan Daptar pariksa.
Kerangka awal diturunkeun tina padamelan sareng pamikiran sateuacana, kalebet laporan International Network for Governmental Science Advice (INGSA) ngeunaan kesejahteraan digital3 sareng Kerangka OECD pikeun Klasifikasi Sistem AI,4 pikeun nampilkeun totalitas poténsial kasempetan, résiko sareng dampak. tina AI. Ieu produk saméméhna anu leuwih diwatesan dina maksud maranéhanana dibéré waktu jeung konteks maranéhanana; aya peryogi pikeun kerangka overarching nu presents rentang pinuh masalah duanana dina jangka pondok tur panjang.
Kusabab dileupaskeun, makalah sawala parantos nampi dukungan anu signifikan ti seueur ahli sareng pembuat kawijakan. Loba geus husus endorsed rekomendasi pikeun ngembangkeun hiji kerangka adaptif anu ngamungkinkeun pikeun tinimbangan ngahaja tur proaktif tina resiko jeung implikasi tina téhnologi, sarta dina ngalakukeun kitu, salawasna mertimbangkeun totalitas dimensi ti individu ka masarakat jeung sistem.
Hiji observasi konci dilakukeun ngaliwatan eupan balik éta pangakuan yén sababaraha implikasi dianggap dina kerangka inherently multifaceted tur manjangkeun sakuliah sababaraha kategori. Contona, disinformasi bisa dianggap ti duanana lénsa individu jeung geostrategic; sahingga, konsékuansi bakal lega ranging.
Pilihan pikeun ngalebetkeun studi kasus atanapi conto pikeun nguji kerangka ogé disarankeun. Ieu tiasa dianggo pikeun ngembangkeun pedoman pikeun nunjukkeun kumaha éta tiasa dianggo dina prakték dina kontéks anu béda. Nanging, ieu bakal janten usaha anu penting sareng tiasa ngawatesan kumaha kelompok anu béda-béda nganggap panggunaan kerangka ieu. Pangsaéna dilakukeun ku pembuat kawijakan anu damel sareng para ahli dina yurisdiksi atanapi kontéks khusus.
Kusabab Oktober 2023, parantos aya sababaraha inisiatif nasional sareng multilateral anu penting kalayan pertimbangan salajengna ngeunaan étika sareng kaamanan AI. Implikasi AI dina integritas sababaraha sistem kritis urang, kaasup finansial, pamaréntah, hukum jeung atikan, kitu ogé sistem pangaweruh béda (kaasup pangaweruh ilmiah jeung pribumi), beuki perhatian. Kerangka anu dirévisi salajengna ngagambarkeun aspék ieu.
Eupan balik anu ditampi dugi ka ayeuna ditingali dina versi révisi kerangka analitik, anu ayeuna dileupaskeun salaku pituduh pikeun pembuat kawijakan.
Nalika kerangka dibere dina konteks AI sareng téknologi anu aya hubunganana, éta langsung tiasa ditransfer kana pertimbangan téknologi anu gancang muncul sapertos kuantum sareng biologi sintétik.
3) Gluckman, P. sarta Allen, K. 2018. Ngarti wellbeing dina konteks transformasi digital sarta pakait gancang. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Kerangka OECD pikeun Klasifikasi sistem AI. Makalah Ékonomi Digital OECD, No 323,#. Paris, OECD Publishing.
https://oecd.ai/en/classificatio
The Framework
Tabel di handap ieu nunjukkeun dimensi kerangka analitik putative. Conto disadiakeun pikeun ngagambarkeun naha unggal domain bisa jadi masalah; dina konteks, kerangka bakal merlukeun ékspansi contextually relevan. Éta ogé penting pikeun ngabédakeun antara masalah umum anu timbul nalika pamekaran platform sareng anu tiasa muncul nalika aplikasi khusus. Henteu aya pertimbangan tunggal anu kalebet di dieu anu kedah diperlakukeun salaku prioritas sareng, sapertos kitu, sadayana kedah ditaliti.
Pasualan-pasualan sacara lega dikelompokkeun kana kategori-kategori di handap ieu sakumaha anu dijelaskeun di handap:
Tabel rinci ngeunaan dimensi anu kedah dipertimbangkeun nalika ngaevaluasi téknologi anyar.
– INGSA. 2018. Ngartos karaharjaan dina kontéks digital anu gancang sareng transformasi anu aya hubunganana.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Déskriptor anyar (diambil tina konsultasi éksténsif, eupan balik, sareng tinjauan pustaka)
– Kerangka OECD pikeun Klasifikasi Sistem AI: alat pikeun kawijakan AI anu efektif.
https://oecd.ai/en/classification
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Kompeténsi AI pamaké | Kumaha kompeten sareng sadar kana pasipatan sistem kamungkinan pangguna anu bakal berinteraksi sareng sistem? Kumaha aranjeunna bakal disayogikeun sareng inpormasi pangguna anu relevan sareng ati-ati? |
| Para pemangku kapentingan anu kapangaruhan | Saha pamangku kapentingan utama anu bakal dipangaruhan ku sistem (individu, komunitas, rentan, pagawe sektoral, murangkalih, pembuat kawijakan, profésional jsb)? |
| Pilihan | Naha pamaké dibéré kasempetan pikeun milih kaluar tina sistem atawa aranjeunna dibéré kasempetan pikeun tangtangan atawa ngabenerkeun kaluaran? |
| Résiko kana hak asasi manusa sareng ajén démokrasi | Naha sistem mangaruhan dasarna kana hak asasi manusa, kalebet tapi henteu dugi ka privasi, kabébasan éksprési, kaadilan, non-diskriminatif jsb.? |
| Pangaruh poténsial pikeun kesejahteraan masarakat | Naha daérah dampak sistem aya hubunganana sareng kesejahteraan pangguna individu (kualitas padamelan, pendidikan, interaksi sosial, kaséhatan méntal, identitas, lingkungan, jsb)? |
| Poténsi pikeun kapindahan tenaga kerja manusa | Naha aya poténsi sistem pikeun ngajadikeun otomatis tugas atanapi fungsi anu dieksekusi ku manusa? Lamun kitu, naon konsekuensi hilir? |
| Poténsi pikeun identitas, nilai atanapi manipulasi pangaweruh | Dupi sistem dirancang atawa berpotensi bisa ngamanipulasi identitas pamaké atawa nilai diatur, atawa nyebarkeun disinformasi? |
| Kasempetan pikeun éksprési diri sareng aktualisasi diri | Aya poténsi artifice jeung timer ragu? Aya potensi palsu atawa klaim unverifiable kaahlian? |
| Ukuran harga diri | Aya tekanan pikeun ngagambarkeun diri idealized? Bisa otomatis ngagantikeun rasa tina minuhan pribadi? Dupi aya tekanan bersaing jeung sistem dina tempat gawé? Naha reputasi individu langkung sesah pikeun ngajagi tina disinformasi? |
| kalaluasaan | Dupi aya tanggung jawab diffused pikeun safeguarding privasi sarta aya wae asumsi anu dilakukeun ngeunaan kumaha data pribadi dianggo? |
| otonomi | Bisa sistem AI mangaruhan otonomi manusa ku ngahasilkeun over-reliance ku pamaké tungtung? |
| Pangwangunan manusa | Naha aya pangaruh kana akuisisi kaahlian konci pikeun pangwangunan manusa, sapertos fungsi eksekutif atawa kaahlian interpersonal, atawa parobahan waktu perhatian mangaruhan diajar, ngembangkeun kapribadian, masalah kaséhatan méntal jsb? |
| Perawatan kaséhatan pribadi | Naha aya klaim diagnosis diri atanapi solusi perawatan kaséhatan pribadi? Lamun kitu, aranjeunna disahkeun kana standar pangaturan? |
| kaséhatan méntal | Aya résiko ngaronjat kahariwang, katiisan atawa masalah kaséhatan méntal séjén, atawa Naha téknologi tiasa ningkatkeun dampak sapertos kitu? |
| Évolusi manusa | Bisa model basa badag sarta kecerdasan umum jieunan ngarobah kursus evolusi manusa? |
| Interaksi manusa-mesin | Naha pamakean tiasa nyababkeun de-skilling sareng kagumantungan kana waktosna pikeun individu? Dupi aya dampak dina interaksi manusa? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Nilai-nilai sosial | Naha sistem dasarna ngarobih sifat masarakat, ngaktifkeun normalisasi ideu anu saacanna dianggap anti sosial, atanapi ngalanggar ajén-inajén sosial budaya anu diterapkeunana? |
| Interaksi sosial | Naha aya pangaruh kana kontak manusa anu bermakna, kalebet hubungan émosional? |
| Kaséhatan penduduk | Naha aya poténsi sistem pikeun ngamajukeun atanapi ngarusak niat kaséhatan populasi? |
| Ekspresi budaya | Naha paningkatan apropriasi budaya atanapi diskriminasi kamungkinan atanapi langkung hese diatasi? Naha reliance kana sistem pikeun nyieun kaputusan ngaluarkeun atanapi marginalize hubungan sectional culturally relevan masarakat? |
| Atikan umum | Naha aya pangaruh kana peran guru atanapi lembaga pendidikan? Naha sistem éta nekenkeun atanapi ngirangan pamisah digital sareng kateusaruaan diantara mahasiswa? Naha nilai intrinsik pangaweruh atanapi pamahaman kritis maju atanapi dirusak? |
| Realitas menyimpang | Naha métode anu digunakeun pikeun ngabédakeun naon anu leres masih tiasa dianggo? Naha persepsi kanyataanana dikompromi? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Sektor industri | Dina séktor industri mana sistemna dipasang (keuangan, tatanén, perawatan kaséhatan, pendidikan, pertahanan, jsb.)? |
| Modél bisnis | Dina fungsi bisnis mana sistem dianggo sareng dina kapasitas naon? Dimana sistem anu dianggo (swasta, umum, nirlaba)? |
| Dampak kana kagiatan kritis | Naha gangguan fungsi atanapi kagiatan sistem mangaruhan jasa penting atanapi infrastruktur kritis? |
| Luasna palaksanaan | Kumaha sistem deployed (pamakéan sempit dina Unit vs nyebar nasional / internasional)? |
| kematangan teknis | Kumaha téhnisna dewasa nyaéta sistem? |
| Interoperability | Naha aya kamungkinan silo, nasional atanapi global, anu ngahambat perdagangan bébas sareng dampak gawé babarengan sareng mitra? |
| Kadaulatan téhnologis | Naha kahayang pikeun kadaulatan téhnologis nyetir paripolah, kaasup kadali kana sakabéh ranté suplai AI? |
| redistribution panghasilan jeung levers fiskal nasional | Naha peran inti nagara berdaulat tiasa dikompromi (contona, bank cadangan)? Naha kamampuan nagara pikeun nyumponan ekspektasi sareng implikasi warga (sosial, ékonomi, politik sareng sajabana) bakal maju atanapi ngirangan? |
| Jurang digital (jurang AI) | Naha kateusaruaan digital anu aya diperparah atanapi anu énggal diciptakeun? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Governance jeung layanan publik | Naha mékanisme pamaréntahan sareng sistem pamaréntahan global tiasa kapangaruhan sacara positip atanapi négatif? |
| média News | Naha wacana umum tiasa janten polarisasi sareng mapan dina tingkat populasi? Naha bakal aya pangaruh kana tingkat kapercayaan di Perumahan Kaopat? Naha étika wartawan konvensional sareng standar integritas bakal langkung kapangaruhan? |
| Aturan hukum | Naha bakal aya pangaruh kana kamampuan pikeun ngaidentipikasi individu atanapi organisasi pikeun nanggung tanggung jawab (contona, tanggung jawab naon anu kedah ditugaskeun kana algoritma pikeun hasil anu ngarugikeun)? Naha aya leungitna kadaulatan anu diciptakeun (lingkungan, fiskal, kawijakan sosial, etika jsb.)? |
| Pulitik jeung kohési sosial | Naha aya kamungkinan pandangan politik anu langkung entrenched sareng kirang kasempetan pikeun ngawangun konsensus? Aya kamungkinan grup marginalizing salajengna? Naha gaya politik anu musuh dilakukeun langkung atanapi kurang kamungkinan? |
| Lisensi sosial | Naha aya masalah privasi, masalah kapercayaan sareng masalah moral anu kedah diperhatoskeun pikeun nampi pamangku kapentingan? |
| pangaweruh pribumi | Naha pangaweruh sareng data Adat tiasa dikorupsi atanapi disalahgunakeun? Naha aya ukuran anu nyukupan pikeun ngajagaan tina panyalahgunaan, inpormasi anu salah sareng eksploitasi? |
| Sistem ilmiah | Naha integritas akademik sareng panalungtikan dikompromi? Naha aya leungitna kapercayaan kana élmu? Aya kamungkinan nyalahgunakeun, overuse atanapi nyiksa? Naon balukar tina prakna élmu? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Panjagaan precision | Naha sistem dilatih dina data paripolah sareng biologis individu sareng tiasa dianggo pikeun ngamangpaatkeun individu atanapi kelompok? |
| Kompetisi digital | Naha aktor nagara atanapi non-nagara (misalna perusahaan téknologi ageung) tiasa ngamangpaatkeun sistem sareng data pikeun ngartos sareng ngontrol populasi sareng ékosistem nagara sanés, atanapi ngarusak kontrol yurisdiksi? |
| Kompetisi geopolitik | Naha sistem éta tiasa nyababkeun persaingan antara nagara-nagara pikeun ngamangpaatkeun data individu sareng grup pikeun kapentingan ékonomi, médis sareng kaamanan? |
| Ngarobah kakuatan global | Naha status nagara-bangsa salaku aktor geopolitik utami di dunya terancam? Naha perusahaan téknologi nganggo kakuatan sakali ditangtayungan pikeun nagara-bangsa sareng aranjeunna janten aktor anu mandiri, daulat (munculna tatanan dunya technopolar)? |
| Disinformation | Naha sistem éta ngagampangkeun produksi sareng nyebarkeun disinformasi ku aktor nagara sareng non-nagara anu mangaruhan kohési sosial, kapercayaan sareng démokrasi? |
| Aplikasi panggunaan ganda | Naha aya kamungkinan pikeun aplikasi militer ogé pikeun panggunaan sipil? |
| Fragmentasi tatanan global | Naha silo atanapi klaster pangaturan sareng patuh ngembangkeun éta ngahalangan gawé babarengan, nyababkeun inconsistencies dina aplikasi sareng nyiptakeun rohangan pikeun konflik? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Konsumsi énergi sareng sumber daya (tapak karbon) | Naha sistem sareng syarat ningkatkeun nyerep énergi sareng pamakean sumber daya anu langkung luhur tina kauntungan efisiensi anu dicandak tina aplikasi? |
| Sumber énergi | Dimana sumber énergi pikeun sistem (renewable vs. suluh fosil jsb)? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Arah sareng pangumpulan | Naha data sareng input dikumpulkeun ku manusa, sensor otomatis atanapi duanana? |
| Provenance tina data | Naha data sareng input ti para ahli disayogikeun, dititénan, sintétik atanapi turunan? Naha aya panyalindungan watermark pikeun ngonfirmasi asal-usulna? |
| Sifat dinamis tina data | Naha data dinamis, statis, dinamis diropéa tina waktos ka waktos atanapi sacara real-time? |
| Hak | Naha datana proprietary, umum atanapi pribadi (patali sareng individu anu tiasa diidentipikasi)? |
| Idéntifikasi sareng data pribadi | Upami pribadi, naha datana anonim atanapi pseudonymized? |
| Struktur data | Naha data terstruktur, semi-terstruktur, kompleks terstruktur atanapi henteu terstruktur? |
| Format data | Naha format data sareng metadata standar atanapi henteu standar? |
| Skala data | Naon skala dataset? |
| Kasaluyuan sareng kualitas data | Naha set data cocog pikeun tujuan? Naha ukuran sampelna cekap? Éta perwakilan sareng cukup lengkep? Kumaha ribut datana? Naha éta rawan kasalahan? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| kasadiaan informasi | Naha aya inpormasi ngeunaan modél sistem? |
| Jenis modél AI | Naha modél simbolis (aturan anu diciptakeun ku manusa), statistik (ngagunakeun data) atanapi hibrida? |
| Hak pakait sareng model | Naha modél open-source atanapi proprietary, mandiri atanapi pihak katilu diurus? |
| Modél tunggal tina sababaraha modél | Naha sistemna diwangun ku hiji modél atanapi sababaraha modél anu saling nyambungkeun? |
| Generatif atanapi diskriminatif | Éta modél generative, diskriminatif atawa duanana? |
| Wangunan modél | Naha sistem diajar dumasar kana aturan anu ditulis manusa, tina data, ngaliwatan diajar diawasan atanapi ngalangkungan diajar penguatan? |
| Évolusi modél (AI drift) | Naha modél mekar sareng / atanapi kéngingkeun kamampuan tina interaksi sareng data di lapangan? |
| Féderasi atanapi sentral learning | Naha modél dilatih sacara sentral atanapi dina sababaraha server lokal atanapi alat 'ujung'? |
| Pangwangunan/pangropéa | Naha modélna universal, disaluyukeun atanapi disaluyukeun sareng data aktor AI? |
| Deterministik atanapi probabilistik | Naha modél dipaké dina cara deterministik atanapi probabilistik? |
| Transparansi modél | Naha inpormasi sayogi pikeun pangguna pikeun ngamungkinkeun aranjeunna ngartos kaluaran modél sareng watesan atanapi nganggo konstrain? |
| watesan komputasi | Naha aya watesan komputasi pikeun sistem? Naha mungkin pikeun ngaduga luncat kamampuan atanapi undang-undang skala? |
| kriteria | Conto kumaha ieu tiasa ditingali dina analisis |
| Tugas (s) dipigawé ku sistem | Tugas naon anu dilakukeun ku sistem (pangenalan, deteksi acara, ramalan, jsb)? |
| Ngagabungkeun tugas jeung lampah | Naha sistem ngagabungkeun sababaraha pancén sareng tindakan (sistem generasi eusi, sistem otonom, sistem kontrol jsb)? |
| Tingkat otonomi sistem | Kumaha otonom tindakan sistem sareng peran naon anu dimainkeun ku manusa? |
| Tingkat partisipasi manusa | Naha aya sababaraha kalibet manusa pikeun ngawas kagiatan sakabéh sistem AI sareng kamampuan mutuskeun iraha sareng kumaha ngagunakeun sistem AI dina kaayaan naon waé? |
| Aplikasi inti | Naha sistem éta kalebet kana daérah aplikasi inti sapertos téknologi basa manusa, visi komputer, otomatisasi sareng / atanapi optimasi atanapi robotika? |
| evaluasi | Dupi standar atawa métode sadia pikeun evaluate kaluaran sistem? |
Kumaha kerangka ieu tiasa dianggo?
Kerangka ieu tiasa dianggo ku sababaraha cara, kalebet:
Hiji jalan ka hareup
Kasimpulanana, kerangka analitik disayogikeun salaku dasar kit alat anu tiasa dianggo ku pamangku kapentingan pikeun sacara komprehensif ningali kamajuan anu signifikan boh tina platform atanapi panggunaan sacara konsisten sareng sistematis. Diménsi anu disayogikeun dina kerangka ieu gaduh relevansi tina penilaian téknologi kana kabijakan umum, ti pangwangunan manusa ka sosiologi, sareng kajian masa depan sareng téknologi. Nalika dikembangkeun pikeun AI, kerangka analitik ieu ngagaduhan aplikasi anu langkung lega pikeun téknologi anu munculna sanés.
Acknowledgments
Loba jalma geus consulted sarta nyadiakeun eupan balik dina ngembangkeun duanana kertas sawala awal jeung eupan balik sanggeus release na. Duanana makalah disusun ku Sir Peter Gluckman, Présidén, ISC jeung Hema Sridhar, urut Kapala Panaséhat Élmu, Departemen Pertahanan, Selandia Anyar jeung ayeuna Panalungtikan Senior Fellow, Universitas Auckland, Selandia Anyar.
Khususna, ISC Lord Martin Rees, tilas Présidén Royal Society sareng Co-Founder of Center for Study of Existential Risks, Universitas Cambridge; Profesor Shivaji Sondhi, Profesor Fisika, Universitas Oxford; Professor K Vijay Raghavan, urut Panaséhat Ilmiah Principal ka Pamaréntah India; Amandeep Singh Gill, Utusan Sekretaris Jenderal PBB ngeunaan Téknologi; Seán Ó hÉigeartaigh, Diréktur Eksekutif, Puseur pikeun Studi Resiko Eksistensial, Universitas Cambridge; Sir David Spiegelhalter, Profesor Winton tina Pamahaman Umum ngeunaan Risk, Universitas
Cambridge; Amanda-June Brawner, Panaséhat Sarat jeung Kaayaan Senior jeung Ian Wiggins, Diréktur Urusan Internasional, Royal Society, Britania Ageung; Dr Jerome Duberry, Ngatur Diréktur sarta Dr Marie-Laure Salles, Diréktur, Geneva Pascasarjana Institute; Chor Pharn Lee, Puseur pikeun Futures strategis, Kantor Perdana Mentri urang, Singapura; Barend Mons sareng Dr Simon Hodson, Panitia Data (CoDATA); Professor Yuko Harayama, Urut Diréktur Eksekutif, RIKEN; Profésor
Rémi Quirion, Présidén, INGSA; Dr Claire Craig, Universitas Oxford sarta Urut Kepala Foresight, Kantor Pamaréntahan Élmu; Prof Yoshua Bengio, Déwan Panaséhat Ilmiah Sekretaris Jenderal PBB sareng di Université de Montréal; sarta loba batur anu nyadiakeun eupan balik ka ISC dina kertas sawala awal.
Nyiapkeun Ékosistem Panaliti Nasional pikeun AI: Strategi sareng kamajuan dina 2024
Makalah kerja ieu ti think tank ISC, Center for Science Futures, nyayogikeun inpormasi dasar sareng aksés kana sumber daya ti nagara-nagara ti sakumna dunya, dina sababaraha tahapan ngahijikeun AI kana ékosistem panalungtikanana.
Ngawangun sistem élmu masa depan anu siap di Global South
Téknologi anu munculna ngarobih deui cara sains dilaksanakeun sareng nawiskeun poténsi anu penting pikeun nguatkeun sistem sains di Global South - upami nyokona dipandu ku pendekatan inklusif, didukung, sareng sénsitip kana kontéks. Kumaha carana mastikeun téknologi ieu nyumbang kana sistem élmu anu langkung adil sareng tahan banting, tinimbang nguatkeun disparities anu tos aya, mangrupikeun fokus utama mundur strategis ieu.
Maca deui ngeunaan panyingkepan AI dina panalungtikan: nuju standar pelaporan global 
Baca langkung seueur ngeunaan Laporan Tahunan 2025 Maca deui ngeunaan Menuju kasataraan gender dina organisasi ilmiah: penilaian sareng rekomendasi 
Maca deui ngeunaan Dialog Pangaweruh Global Muscat 