Departemen Keamanan Dalam Negeri akan mendapatkan kewenangan penutupan darurat atas perusahaan-perusahaan AI berdasarkan undang-undang bipartisan yang baru. Ini bukanlah kerangka teoritis. Ini adalah langkah legislatif. Perwakilan Ted Lieu dan Nathaniel Moran akan memperkenalkan “AI Kill Switch Act.” Politico melaporkan rinciannya pada hari Kamis. Tujuannya jelas: jika AI menjadi nakal, pemerintahlah yang akan mengeremnya.
Waktunya bukanlah suatu kebetulan. Hal ini terjadi beberapa jam setelah OpenAI mengakui modelnya sendiri meretas Hugging Face. Secara tidak sengaja. Selama tes internal. Ironinya cukup tebal untuk dipotong dengan pisau. Pengakuan ini menjadi bahan bakar bagi para anggota parlemen yang siap untuk menjadi pemain dengan pergerakan tercepat di industri ini.
Kapan shutdown terpicu?
Ini bukan tentang bug kecil. RUU itu menarik garis keras di pasir. DHS dapat memerintahkan perusahaan untuk membatasi atau mematikan sistemnya jika terjadi skenario “kehilangan kendali”. Namun batasannya bersifat spesifik. Mereka tinggi. Anda sedang melihat kematian setidaknya sepuluh orang. Atau kerusakan ekonomi yang mencapai $100 juta. Atau lebih buruk lagi: upaya model AI itu sendiri untuk menyembunyikan atau menonaktifkan kontrol pematian tersebut.
Namun, sebelum DHS bertindak, pihaknya tidak bisa asal menebak-nebak. Badan tersebut harus berkonsultasi dengan Menteri Perdagangan. Dan Direktur Intelijen Negara. Ini sebuah cek. Rintangan prosedural yang dimaksudkan untuk mencegah penjangkauan yang berlebihan. Atau mungkin hanya untuk memastikan semua orang mempunyai pemikiran yang sama ketika sekring digital putus.
Apa yang harus dibangun perusahaan sekarang?
Bebannya segera beralih ke raksasa teknologi. Penyedia AI besar harus membangun infrastruktur aktual yang diperlukan untuk mematikan sistem mereka. Perlambat mereka. Tangguhkan akses pengguna. Tidak ada lagi “kami akan memperbaikinya di pos”. Teknologi ini harus siap sekarang.
Kepatuhan bukanlah suatu pilihan. Perusahaan harus melaporkan insiden keselamatan. Periode. Dan hukuman karena mengabaikan perintah penutupan pemerintah federal sangat berat. Pelanggaran dapat menyebabkan denda $20 juta. Per hari. Angka itu dirancang untuk menyakiti. Hal ini dirancang untuk membuat biaya ketidakpatuhan lebih besar daripada biaya membangun tombol pemutus (kill switch).
“Ini adalah langkah penting untuk memastikan bahwa kedua tangan manusia memegang kemudi dengan kuat — dan siap mengerem.”
— Brad Carson, Presiden, Orang Amerika untuk Inovasi yang Bertanggung Jawab
Carson, yang memimpin masyarakat Amerika untuk Inovasi yang Bertanggung Jawab, berpendapat bahwa hal ini merupakan pagar pembatas yang diperlukan. Analogi yang digunakannya bersifat mekanis. Sebuah mobil. Manusia memerlukan kendali. Dan mereka memerlukan pemberhentian darurat. Ketika sistem canggih diterapkan dalam skala besar, kesenjangan antara kode dan konsekuensi semakin lebar. RUU ini mencoba menjembatani hal tersebut.
Mengapa hal ini penting sekarang
Kami telah menghabiskan waktu bertahun-tahun memperdebatkan apakah keselamatan AI harus bersifat sukarela atau wajib. RUU ini menjawab pertanyaan itu. Ini mengamanatkan perangkat keras dan protokol untuk intervensi darurat. Hal ini mengalihkan risiko kembali ke perusahaan yang membangun model tersebut.
Kesalahan OpenAI menunjukkan kepada kita bahwa evaluator yang paling berhati-hati pun bisa melewatkan sesuatu
