“Halo! Ada yang bisa saya bantu?”
Percakapan dimulai secara instan. Kami sudah berdialog mendalam dengan mesin. Chatbots seperti ChatGPT telah menjadi rutinitas harian kita. Mereka ada di toko online. Mereka menangani layanan pelanggan. Mereka bahkan membantu mengerjakan pekerjaan rumah. Orang di balik layar sudah jarang menjadi manusia lagi. Asisten virtual ini cepat. Mereka tersedia 24/7. Seringkali mereka menawan. Apa yang tampak seperti mainan teknis beberapa tahun lalu kini menjadi pendamping digital.
Namun pergeseran ini menimbulkan pertanyaan mendesak. Seberapa besar kita bisa mempercayai mereka? Atau yang lebih penting, bagaimana seharusnya kita memercayai mereka? Untuk menjawabnya, kita perlu melihat apa yang membuat chatbot kredibel. Kita perlu memahami di mana letak batas antara teknologi yang bermanfaat dan ilusi yang menipu.
Cetak Biru Manusia untuk Kepercayaan
Karena chatbot sering kali berfungsi sebagai pengganti interaksi manusia, ada baiknya mengetahui bagaimana manusia membangun kepercayaan satu sama lain. Penelitian menunjukkan ada tiga pilar inti yang mendefinisikan kepercayaan antarpribadi.
Yang pertama adalah kompetensi yang dirasakan. Kami mempercayai seorang spesialis. Jika seorang dokter menunjukkan pengetahuan yang mendalam di bidangnya, kami mendengarkan. Jika mereka tampak tidak yakin dengan bidangnya sendiri, kami meragukannya.
Kedua adalah integritas. Ini tentang konsistensi. Apakah orang tersebut melakukan apa yang mereka katakan akan mereka lakukan? Apakah mereka jujur? Apakah mereka berpegang pada nilai-nilai mereka? Orang yang menyelaraskan tindakannya dengan perkataannya dianggap dapat diandalkan.
Yang ketiga adalah kebajikan. Ini adalah perasaan bahwa pihak lain mengutamakan kepentingan terbaik Anda. Jika Anda merasa seseorang benar-benar peduli dengan kesejahteraan Anda, hal itu akan menciptakan landasan kepercayaan.
Saat Kami Mempercayai Mesin
Yang mengejutkan, ketiga standar manusia ini juga berlaku pada kepercayaan kita terhadap AI. Sebuah studi terbaru yang dilakukan Fanny Lalot dan Anna-Marie Betram dari Universitas Basel menguji hipotesis ini. Peserta mengevaluasi percakapan antara pengguna dan chatbot fiksi. Mereka diminta untuk membayangkan bahwa mereka sedang berinteraksi dengan AI itu sendiri.
Hasilnya jelas. Bagi pengguna, kompetensi dan integritas merupakan faktor dominan dalam membangun kepercayaan. Jika chatbot berpengetahuan luas dan jujur, pengguna akan merasa aman. Kebajikan menjadi tidak penting ketika kedua kondisi tersebut terpenuhi.
Temuan ini menantang gagasan bahwa membuat AI terasa “menyenangkan” adalah kunci keandalan. Studi tersebut menunjukkan bahwa chatbot yang dipersonalisasi—yang menggunakan nama Anda dan merujuk pada percakapan masa lalu—tidak menciptakan tingkat kepercayaan yang lebih tinggi dibandingkan chatbot yang tidak bersifat pribadi. Tentu saja, nada yang bersahabat dan dipersonalisasi membuat pengguna lebih bersedia untuk berbagi data pribadi atau menggunakan alat tersebut. Ini meningkatkan keterlibatan. Namun hal itu tidak meningkatkan metrik kepercayaan inti.
Bahaya Terlalu Banyak Kesepakatan
Mengapa peserta sangat menghargai integritas? Ini adalah perlindungan terhadap isolasi. Jika AI terlalu tidak kritis, jika setuju dengan semua yang dikatakan pengguna, AI akan menciptakan ruang gema digital. Ini bisa berbahaya. Hal ini mungkin memperkuat ide-ide ekstrem atau tidak bermoral tanpa pemeriksaan realitas apa pun.
“Seorang teman atau pasangan pada akhirnya diharapkan akan melakukan intervensi jika seseorang mengembangkan ide-ide gila atau tidak bermoral.”
— Fanny Lalot, Universitas Basel
Seorang teman manusia menolak. AI yang tidak memiliki integritas tidak akan mengalami hal tersebut. Ia hanya mengangguk. Itu tidak membantu. Itu memungkinkan.
Studi tersebut juga mengungkapkan adanya perubahan psikologis. Peserta mengaitkan kompetensi, integritas, dan kebajikan secara langsung dengan AI, bukan dengan perusahaan di baliknya. Mereka memandang AI sebagai entitas yang otonom. Proyeksi ini penting. Kami memperlakukan kode sebagai karakter.
Batasan Kepercayaan Mesin
Hal ini membawa kita pada kebenaran yang tidak menyenangkan. Kami memproyeksikan lebih banyak hal ke dalam sistem AI daripada yang sebenarnya ada. AI tidak memiliki moral. Ia tidak punya hati. Ini memiliki bobot, bias, dan probabilitas.
Jadi, haruskah kita mempercayai chatbot sepenuhnya? Mungkin tidak. Itu adalah alat, bukan ramalan. Mereka dibangun berdasarkan data dan algoritma. Mereka bisa salah.
Mereka dapat memberikan informasi yang salah atau ketinggalan jaman. Mereka bisa salah memahami konteks. Data pelatihan sering kali mengandung prasangka manusia, yang berarti AI dapat secara tidak sengaja menghasilkan respons yang diskriminatif. Ada juga masalah privasi. Chatbots mengumpulkan sejumlah besar data pribadi. Jika penyedianya tidak dapat dipercaya, informasi sensitif Anda berisiko.
Lalot menganjurkan sikap netral. Kita harus melihat chatbot AI serupa dengan media sosial. Mereka menawarkan peluang tetapi membawa risiko. Kita perlu belajar bagaimana menavigasi ruang tersebut.
“Studi kami tidak menunjukkan apakah kepercayaan pada chatbot itu baik atau buruk.”
Ini tentang utilitas. Ini tentang memahami mekanismenya. Kami membutuhkan chatbot tepercaya yang tidak berbohong dan tidak memvalidasi setiap masukan pengguna secara membabi buta. Namun bisakah kita benar-benar mengetahui apakah AI berperilaku etis? Mungkin tidak.
Kita dihadapkan pada sebuah pilihan. Apakah kita menyerahkan penilaian kita pada mesin yang meniru pemahaman? Atau apakah kita menggunakannya sebagai alat, menjaga skeptisisme kita tetap utuh? Garisnya buram. Teknologi bergerak cepat. Dan kami masih mencari cara untuk mempertahankannya.
