Ini terjadi terlalu cepat. PBB mengatakan demikian. Lagi.
Sebuah laporan baru dari PBB memberikan peringatan yang tidak terasa seperti kebijakan dan lebih seperti hitungan mundur. Peluang untuk membangun tata kelola global bagi kecerdasan buatan tidak hanya berakhir. Ini membanting. Jika kita tidak bertindak sekarang, AI tidak hanya akan menjadi teknologi canggih, namun juga akan menjadi mesin lain untuk menghancurkan kesenjangan global.
Angka-angka ini berasal dari Panel Ilmiah Internasional Independen PBB, sebuah kelompok yang terdiri dari empat puluh ahli yang dipilih oleh Majelis Umum pada tahun 2025. Pesan mereka kepada para pemimpin dunia sangat jelas.
“Jangan menunggu.”
Hal itulah yang dikatakan António Guterres, Sekretaris Jenderal PBB, baru-baru ini. Ilmu pengetahuan sudah selesai. Bahayanya nyata. Kita tidak bisa mengklaim ketidaktahuan lagi.
Apa yang berubah saat ini?
Kecepatan itulah yang menyakitkan.
AI generatif menulis kode sekarang. Ini mengolah kumpulan data seukuran perpustakaan. Itu membuat video palsu terlihat sangat nyata. Ini membantu para ilmuwan menemukan jarum di tumpukan jerami data genetik. Namun sistem agen – yang bertindak tanpa banyak bantuan manusia – bergerak lebih cepat.
Setiap beberapa bulan, kompleksitas yang ditangani mesin ini meningkat dua kali lipat.
Pikirkan tentang itu. Menggandakan. Kompleksitas. Dalam beberapa bulan.
Ketika mereka menjadi lebih pintar dan mandiri, pengawasan terhadap mereka menjadi semakin sulit. Mengontrol mereka menjadi mustahil. Kecuali kita membangun penjagaan yang lebih ketat.
Dan risikonya sangat besar.
pemalsuan mendalam. Materi pelecehan seksual yang dihasilkan oleh algoritma, menargetkan perempuan dan anak-anak secara tidak proporsional. Disinformasi yang berbau kebenaran dapat merusak kepercayaan publik dan membungkam demokrasi. Penjahat dunia maya menggunakan alat ini untuk penipuan dan rekayasa sosial.
Hal ini juga menjadi lebih buruk di dalam pikiran. Sistem ini dapat mendorong pemikiran berbahaya pada pengguna yang rentan, sehingga memicu krisis kesehatan mental. Bahkan bunuh diri.
Lalu ada panasnya. Secara harfiah. Pusat data yang menjaga mesin ini tetap bekerja memompa keluar gas rumah kaca yang tidak peduli dengan batasan digital.
Apakah ada yang bagus di sini?
Ya. Jangan salah paham tentang ini.
Model AI baru-baru ini memetakan lebih dari 200 juta struktur protein. Kedengarannya membosankan. Bukan itu. Ini mempercepat penemuan obat. Ini mempercepat penelitian vaksin. Ini mengatasi resistensi antibiotik secara langsung.
Ini menandai kekurangan pangan sebelum menjadi kelaparan.
Hal ini memperluas akses terhadap pendidikan bagi anak-anak di desa-desa terpencil. Ini menawarkan dukungan kesehatan mental ketika terapis tidak ada. Ini memberikan alat kepada penyandang disabilitas yang benar-benar berfungsi.
Ini menyelamatkan nyawa.
Itu juga mengancam mereka.
Papan skor sudah dipasang
Siapa yang menjalankan hal ini?
Lihatlah perangkat kerasnya. Amerika Serikat mempunyai sekitar tiga perempat dari kekuatan komputasi global yang dibutuhkan untuk supermodel AI terkemuka. Tiongkok menduduki sekitar 15 persen.
Tambahkan semuanya. Sembilan puluh persen.
Dua negara. Hampir semua kekuatan. Model paling canggih dibuat oleh perusahaan di wilayah yang sama.
Sementara itu, negara-negara berkembang hanya melihat kesenjangan ini dan tidak mendapatkan apa-apa. Mereka tidak memiliki bakat. Mereka kekurangan infrastruktur. Mereka pasti kekurangan dana. Mereka tidak dapat membangun sistem ini, dan seringkali mereka bahkan tidak dapat mengaudit sistem yang harus mereka gunakan.
Hal inilah yang menyebabkan kesenjangan semakin melebar. Tidak perlahan. Tapi secara default.
Hukum tidak bisa mengikuti
Pemerintah sedang berusaha.
Saat ini terdapat lebih dari empat puluh kerangka tata kelola AI yang tersebar di seluruh dunia. Tapi inilah masalahnya. Mereka terfragmentasi. Mereka saling bertentangan. Sebagian besar belum pernah diuji dengan benar.
“Dilema bukti” menjebak para anggota parlemen.
Anda memerlukan data yang solid untuk menulis aturan yang baik. AI berubah sebelum Anda selesai mengumpulkan data tersebut.
Ironinya pahit. Perusahaan yang membuat alat canggih ini biasanya yang menguji keamanannya. Mandiri? Hampir tidak.
Kami membutuhkan pemeriksaan pihak ketiga. Kita memerlukan standar internasional bersama. Kita memerlukan dana yang mengalir ke negara-negara yang tidak mampu melakukan pengawasan sendiri sehingga mereka dapat mengatur AI dengan cara mereka sendiri, tidak hanya mengikuti Amerika Serikat dan Tiongkok.
Ini semua mengarah ke Jenewa.
6 Juli 2024. Atau tahun 2026? Tanggal pada laporan tersebut menyatakan bahwa Dialog Global PBB tentang Tata Kelola AI akan dibuka di sana. Negara-negara anggota akan berkumpul untuk berdebat tentang koordinasi. Untuk memperdebatkan manajemen. Untuk mencoba mengejar mesin yang tidak berhenti berevolusi.
Pertanyaannya adalah apakah ada orang yang muncul dengan rencana nyata. Atau jika kita hanya ngobrol sambil jendelanya tertutup.
