Dampak data sareng AI kana produksi ilmiah

pangarang:

Barend Mons, Profesor Emeritus Universitas Leiden, Anggota Déwan yayasan GO FAIR sareng Diréktur LIFES, Inisiatif Leiden pikeun élmu FAIR sareng Adil

Arie Baak, Anggota Déwan Asosiasi LIFES pikeun élmu anu ADIL sareng Adil

Koen Jonkers, Komisi Éropa, Pusat Panalungtikan Gabungan (JRC), Brussel, Bélgia

Kecerdasan Buatan nuju ngarobah cara élmu dilaksanakeun, dikomunikasikan, sareng divalidasi. Éta nyepeng jangji anu tulus, ngamungkinkeun pangakuan pola dina skala anu teu tiasa ditandingi ku panalungtik manusa, ngagancangkeun alur kerja sareng muka jalan anyar pikeun panemuan. Tapi AI ogé gancang, henteu bébas tina kasalahan sareng teu pilih kasih, sedengkeun élmu nyéépkeun waktos sareng taliti ku desain. Tegangan antara dua kanyataan ieu parantos ngahasilkeun disfungsi anu serius: banjir publikasi sareng data anu dihasilkeun ku AI, tinjauan peer anu turun, panemuan halusinasi sareng kapercayaan kana catetan ilmiah anu ngirang. Set kaahlian anu diperyogikeun pikeun élmuwan ka hareup robih sacara fundamental sareng kawijakan élmu henteu tetep. Ngatasi celah ieu penting pisan.

AI ngarobah cara élmu dilakukeun

Élmu geus robah ti lingkungan anu jarang data ka lingkungan anu beunghar data kalayan kecepatan anu luar biasa. Nalika para panalungtik baheula ngahasilkeun kumpulan data anu sederhana sareng nepikeun panemuan utamina ngalangkungan artikel anu tiasa dibaca ku manusa, ayeuna aranjeunna beroperasi dina jaman generasi data eksponensial. Seueurna diménsi luhur, disebarkeun sareng ngan ukur tiasa diolah ku mesin. Nanging, tren ieu henteu katingali dina panggunaan deui data anu saleresna. Pikeun ngarobih éta, data éta sorangan ayeuna kedah dianggap salaku kaluaran ilmiah kelas hiji, sanés produk sampingan tina artikel.

Mesin unggul dina milarian pola dina kumpulan data anu ageung sareng rumit. Tapi mesin teu gaduh modél konséptual anu aya hubunganana sareng manusa. Hasilna nyaéta suplai pola anu ampir teu terbatas, seueur anu palsu, sababaraha nyasabkeun. Tangtangan utama pikeun generasi élmuwan salajengna nyaéta nganapigasi leuweung pola ieu: ngabédakeun sinyal anu bermakna tina gangguan statistik. Pangawasan manusa sanés pilihan; éta diperyogikeun sacara struktural.

Para panyusun kawijakan ogé kedah waspada yén AI dina élmu pangaweruh langkung ti ngan saukur Modél Basa Ageung, anu ayeuna ngadominasi wacana umum. Lanskap anu langkung lega kalebet pembelajaran mesin pikeun ngahasilkeun hipotesis, alur kerja ékspériméntal otomatis sareng penalaran dumasar grafik pangaweruh, anu masing-masing mawa résiko sareng kasempetan anu béda anu meryogikeun réspon tata kelola anu disaluyukeun.

Kualitas data sareng infrastruktur mangrupikeun halangan

Kualitas kaluaran AI dina élmu pangaweruh ditangtukeun sacara langsung ku kualitas data ngasupkeunData anu ADIL (Tiasa Dipanggihan, Tiasa Diaksés, Tiasa Dioperasikeun sareng Tiasa Dipaké Deui, sareng beuki kahartos salaku Siap AI Pinuh) mangrupikeun prasarat dasar pikeun élmu anu didorong ku AI anu tanggung jawab. Tanpa éta, modél AI dilatih ngeunaan eusi atah, teu dikurasi, berpotensi bias, atanapi bahkan dijieun-jieun, ngahasilkeun halusinasi anu tiasa ngancam kahirupan dina kontéks klinis sareng anu sacara sistematis ngaruksak kapercayaan kana élmu. Utamana dimana panggunaan deui data anu gampang kapendak biasana ku aktor anu henteu dumasar kana élmu sapertos perusahaan LLM ayeuna.

Anu teu kalah penting nyaéta panggunaan modél konseptual FAIR pikeun ngawatesan AI. outputsKu cara nyayogikeun kerangka semantik anu terstruktur, dimana unggal konsép didefinisikeun kalayan saé, kumaha hubunganana sareng naon anu dianggap salaku inferensi anu valid, modél ieu sacara signifikan ngirangan résiko halusinasi sareng ngabantosan mastikeun yén panemuan anu dihasilkeun ku AI tetep tiasa dijelaskeun, diinterpretasi sareng diverifikasi ku manusa.

Krisis integritas dina penerbitan ilmiah ningkatkeun résiko ieu. Sistem AI ayeuna tiasa ngahasilkeun artikel, data, sareng ulasan anu katingalina masuk akal ampir langsung. Hiji konferensi AI anu unggul nampi langkung ti 20,000 kiriman dina taun 2025 waé. Résponna (ilmuwan anu nganggo AI pikeun marios makalah anu dihasilkeun ku AI) résiko nyiptakeun puteran eupan balik noise anu katutup dimana sistem anu cacad silih évaluasi tanpa pamariksaan éksternal anu bermakna. Data FAIR anu diterbitkeun di sumberna, dimana asal-usulna tiasa diverifikasi, mangrupikeun salah sahiji alat anu paling kuat anu sayogi pikeun ngalawan tren ieu.

Anu jadi dadasar tina ieu sadayana nyaéta kagagalan struktural dina insentif. Para panalungtik masih kénéh dibéré ganjaran pikeun jumlah artikel sareng tingkat sitasi, hiji métrik anu dirancang pikeun jaman anu jarang data. Nyebarkeun data FAIR anu kualitasna luhur saeutik pisan pangakuan profésional sareng teu aya jaminan panangtayungan dana. Ieu kedah robih.

Celah tata kelola téh akut

Lanskap tata kelola téknis pikeun data dina élmu pangaweruh keur aya dina krisis. Mangtaun-taun gumantungna kana sajumlah leutik panyadia awan ageung, digabungkeun sareng instrumen hukum sapertos Undang-Undang Awan AS, parantos nyiptakeun masalah kadaulatan data anu ayeuna akut, khususna dina kaayaan teu stabilna kawijakan AS anyar-anyar ieu sareng pangaruhna kana infrastruktur panalungtikan anu dibagikeun sacara internasional. Seueur sumber daya data ilmiah inti dunya sacara efektif aya di luar kendali yurisdiksi lembaga sareng komunitas anu ngahasilkeunana.

Prinsip-prinsip FAIR, anu dilengkepan ku Prinsip-prinsip CARE (anu ngabahas hak sareng kapentingan Masyarakat Adat dina tata kelola data), nyayogikeun kerangka anu koheren pikeun pangawasan anu tanggung jawab. Babarengan, éta ngajelaskeun kaayaan dimana data kedah dibuka atanapi diwatesan, tiasa dianggo deui sareng daulat. Konsép Internet of FAIR Data and Services (IFDS), dimana data tetep aya dina sumberna sareng didatangan ku algoritma anu diidinan tinimbang disalin sareng dipusatkeun, nawiskeun réspon arsitéktur anu praktis. Dina modél ieu, pamundut komputasi ngarambat ka simpul data anu disebarkeun; data henteu ngarambat ka gudang anu terpusat kecuali upami teu tiasa dihindari.

Partisipasi anu adil dina élmu anu didorong ku AI ogé meryogikeun infrastruktur ieu tiasa diaksés sacara leres. Lembaga sareng komunitas di Global South henteu tiasa janten subjek pasif tina panggunaan deui data. Di tungtung anu sanés tina spéktrum konektivitas, industri intensif data henteu kedah dikaluarkeun. Infrastruktur FAIR anu disebarkeun, dirancang pikeun nyingkahan konci vendor sareng titik kagagalan tunggal, nyaéta mékanisme anu ngamungkinkeun partisipasi anu bermakna.

Naon anu kedah dilakukeun ku para pembuat kawijakan

Réspon kawijakan anu koheren meryogikeun tindakan dina sababaraha aspék:

• Meryogikeun standar data FAIR dina panalungtikan anu dibiayaan ku publik. Badan pendanaan kedah ngajantenkeun publikasi data FAIR salaku sarat pikeun panghargaan hibah, sanés rekomendasi.
• Penerbitan data dana sareng FAIRifikasi salaku biaya hibah anu layak. Investasi anu diperyogikeun pikeun ngahasilkeun data anu kualitasna luhur sareng tiasa ditindaklanjuti ku mesin kedah diakui sareng ditutupan.
• Ngagunakeun deui data anu dihasilkeun sateuacanna sareng biaya panalungtikan anu layak pikeun infrastruktur pendukung dina proposal hibahInvestasi anu diperyogikeun pikeun nyimpen sareng nyayogikeun data anu kualitasna luhur sareng tiasa ditindaklanjuti ku mesin kedah diakui sareng ditutupan.
• Rojong standar berbasis komunitas tinimbang solusi anu didorong ku vendor. Infrastruktur anu kabuka sareng tiasa dioperasikeun anu diwangun dina standar minimal anu dibagi nyegah panguncian sareng mastikeun tingkat persaingan anu adil.
• Investasi dina literasi ilmiah. Salian ti élmuwan, warga nagara, wartawan, sareng nu nyieun kawijakan ogé meryogikeun pamahaman anu saé ngeunaan kamampuan sareng watesan AI. Celah antara persepsi masarakat sareng kanyataan téknis mangrupikeun résiko tata kelola.
• Sarat asal-usul mandat sareng transparansi pikeun AI anu dianggo dina panalungtikan. Sagala sistem AI anu nyumbang kana panemuan ilmiah anu diterbitkeun kedah diwajibkeun pikeun ngungkabkeun asal-usul data pelatihan, kendala, sareng watesan modél.

Élmu mangrupikeun barang publik global. Integritas, kaadilan, sareng kabukaanana teu tiasa dianggap; éta meryogikeun pilihan kawijakan anu aktif. Jandéla pikeun ngadegkeun tata kelola anu saé pikeun AI dina produksi ilmiah dibuka, tapi moal tetep sapertos kitu salamina. Kaputusan anu dilakukeun ayeuna ngeunaan standar data, infrastruktur, insentif, sareng pangawasan bakal nangtukeun naha AI ngagancangkeun élmu anu tiasa dipercaya atanapi sacara sistematis ngaruksakna.

Poto ku Getty Images kanggo Unsplash+

Diayakeun ku kerjasama antara International Science Council (ISC) sareng Frontiers Policy Labs, blog ieu mangrupikeun bagian tina 'Pamaréntahan anyar pikeun élmu dina abad ka-21'' séri anu ngalayanan salaku forum diskusi dinamis pikeun kapamingpinan pamikiran ngeunaan masa depan tata kelola ilmiah. Ngalih tina studi akademik anu kaku, inisiatif ieu ngahijikeun sora-sora global anu unggul pikeun nganteurkeun opini anu seukeut, provokatif tapi dumasar kana bukti, sareng ningali ka hareup. Ku cara kitu, éta hoyong nyumbang kana ngahartikeun modél tata kelola anu tangguh, inklusif, sareng transparan anu dilengkepan pikeun tantangan énjing.

Tingali postingan aslina Ieuh.

Bantahan
Inpormasi, opini, sareng rekomendasi anu dipidangkeun dina blog tamu kami mangrupikeun saran ti masing-masing kontributor sareng henteu kedah ngagambarkeun nilai-nilai sareng kapercayaan Déwan Élmu Internasional.

Mangga aktipkeun JavaScript dina panyungsi anjeun pikeun ngalengkepan formulir ieu.

Tetep nepi ka tanggal jeung buletin urang

surélék *

saterusna

surélék *

nami *

kahiji

tukang

Buletin mana anu anjeun hoyong nampi? *

• Buletin Unggulan: ISC Bulanan
• Élmu pikeun Réduksi Risk Bencana
• Élmu di apdet komunitas PBB
• Buka élmu
• ISC Proyék Tanda
• Pembaruan régional: Amérika Latin sareng Karibia
• apdet régional: Afrika
• Pembaruan régional: Asia Pasifik

Idin Paké Data *

• Anjeun gaduh idin kuring pikeun surélék kuring

Anjeun tiasa ngarobih pikiran anjeun iraha waé ku ngaklik tautan unsubscribe dina footer email anu anjeun tampa ti kami, atanapi ku ngahubungi kami di [email dijaga].

Maca deui ngeunaan Kabijakan Privasi kami: kabijakan privasi.

ngalanggan