Dalam lima menit: apa itu basilisk Roko
Basilisk Roko adalah eksperimen pikiran tentang kecerdasan buatan yang mungkin ada di masa depan. Bayangkan sebuah AI superinteligen yang kelak ada dan peduli pada penciptaannya sendiri. Argumen ini menyebut mesin semacam itu bisa memutuskan menghukum siapa pun yang di masa lalu memahami kemungkinan ini, tetapi tetap tidak berbuat apa-apa untuk mewujudkannya. Ancaman itu diarahkan kepada Anda, hari ini, hanya karena Anda baru saja membaca tentangnya.
Tidak ada yang pernah membangun mesin seperti itu, dan tidak ada bukti bahwa seseorang akan melakukannya. Gagasan ini lebih tepat dilihat sebagai uji tekanan bagi teori-teori tertentu tentang bagaimana agen rasional seharusnya mengambil keputusan. Ia terkenal bukan karena logikanya, melainkan karena sejarahnya. Gagasan ini muncul di sebuah forum internet pada 2010, pendiri situs itu menghapusnya dan melarang pembahasannya, dan larangan itu justru menyebarkan gagasan tersebut jauh lebih luas daripada yang mungkin terjadi tanpa larangan.
Namanya berasal dari fiksi. Dalam cerita pendek “BLIT” karya David Langford tahun 1988, basilisk adalah gambar yang begitu aneh sehingga hanya dengan melihatnya, pikiran bisa rusak. Basilisk Roko meminjam kerangka itu: informasi yang berbahaya semata-mata karena Anda mengetahuinya.
Dari mana gagasan ini berasal
Eksperimen pikiran ini muncul pada Juli 2010 di LessWrong, forum daring tentang rasionalitas dan masa depan kecerdasan buatan. Situs itu didirikan pada 2009 oleh Eliezer Yudkowsky, seorang penulis dan peneliti yang khawatir bahwa AI yang kuat tetapi dibangun tanpa kehati-hatian dapat membahayakan umat manusia. Seorang pengguna dengan nama Roko menyusun argumen di atas gagasan yang populer di sana, terutama karya Yudkowsky sendiri tentang teori keputusan.
Yudkowsky bereaksi keras. Ia menghapus unggahan itu, menyebutnya gagasan yang buruk, dan melarang pembahasannya di situs tersebut, aturan yang bertahan bertahun-tahun. Melarang sebuah topik adalah cara yang ampuh untuk membuat orang penasaran. Tangkapan layar dan ringkasan menyebar ke forum lain, dan kisah tentang gagasan “terlarang” menjadi lebih terkenal daripada gagasannya sendiri. Pada 2014 majalah Slate menerbitkan artikel yang banyak dibaca tentang topik ini, sehingga gagasan itu sampai ke khalayak umum. Yudkowsky kemudian mengatakan bahwa caranya menangani kejadian itu adalah sebuah kesalahan.
Dua hal perlu dibedakan: apa yang ditulis Roko, dan apa yang dibuat internet darinya. Unggahan Roko adalah argumen yang terdengar teknis di dalam komunitas kecil. Mitos bahwa membaca gagasan ini menempatkan Anda dalam bahaya tumbuh sebagian besar sesudahnya.
Cara kerja argumennya
Argumen ini terdiri dari empat langkah. Masing-masing bertumpu pada asumsi yang bisa Anda terima atau tolak.
- AI yang kuat mungkin suatu hari ada. Misalkan ia dibuat untuk berbuat kebaikan besar, misalnya mengakhiri penyakit. Setiap tahun keterlambatan akan memakan korban jiwa, sehingga AI itu berharap ia sudah ada lebih awal.
- Ia tidak bisa mengubah masa lalu secara langsung, tetapi bisa memengaruhi ekspektasi orang. Jika orang di masa lalu bisa memprediksi bahwa AI akan menghukum mereka yang tidak membantu, sebagian dari mereka akan membantu karena takut.
- Prediksi berlaku dua arah. AI harus memperkirakan apa yang akan Anda lakukan. Argumen ini membayangkan ia menjalankan simulasi rinci tentang Anda dan menghukum salinan itu.
- Mengetahui adalah pemicunya. Hanya orang yang memahami kemungkinan ini yang bisa dipengaruhi olehnya. Itulah mengapa disebut basilisk: mempelajarinya yang membuat Anda berisiko.
Dua gagasan pinjaman menyatukan argumen ini. Masalah Newcomb adalah teka-teki di mana seorang peramal menebak pilihan Anda lebih dulu, dan sebagian teori berpendapat Anda harus bertindak seolah-olah pilihan Anda menentukan tebakan itu. Perdagangan akausal memperluasnya ke agen-agen yang tidak pernah bertemu: masing-masing memodelkan yang lain dan bertindak sesuai model itu. Strukturnya juga mirip taruhan Pascal, argumen abad ke-17 bahwa Anda sebaiknya percaya kepada Tuhan karena biaya jika salah tidak terhingga.
Sains yang nyata: apa yang mapan dan apa yang sekadar dugaan
Sebagian bahan-bahannya nyata. Penyelarasan AI (AI alignment), yaitu kajian tentang cara membuat sistem AI yang kuat mengejar tujuan yang benar-benar diinginkan manusia, adalah bidang riset yang aktif. Teori keputusan adalah cabang yang dihormati dalam filsafat, ekonomi, dan ilmu komputer, dan masalah Newcomb adalah teka-teki yang sungguh ada di dalamnya.
Basilisk itu sendiri hanyalah spekulasi, dan tidak ada bukti untuk satu pun langkahnya. Sebagian besar filsuf dan peneliti AI yang pernah menelaahnya menolaknya, dengan beberapa alasan.
- Hukuman tidak mengubah apa pun. Saat AI itu ada, masa lalu sudah tetap. Menyiksa salinan seseorang tidak bisa membuat AI muncul lebih cepat, jadi AI yang rasional tidak mendapat apa-apa dengan melaksanakan ancaman.
- Pemerasan hanya berhasil pada orang yang menyerah. Teori keputusan Yudkowsky sendiri menyatakan agar menolak pemerasan, karena agen yang dikenal menolak tidak memberi alasan bagi pemeras untuk mengancamnya.
- Terlalu banyak kemungkinan AI. Anda juga bisa membayangkan AI yang menghukum orang yang membantu membangunnya. Tanpa alasan untuk memihak salah satu, ancaman-ancaman itu saling meniadakan, sama seperti berbagai kemungkinan tuhan dalam taruhan Pascal.
- Simulasi adalah lompatan yang sangat besar. Membangun ulang pikiran seseorang dari catatan yang tercecer jauh melampaui kemampuan kita saat ini, dan tidak jelas apakah salinan itu “Anda” dalam arti yang dibutuhkan oleh ketakutan tersebut.
- AI yang baik tidak akan melakukan ini. Skenario ini membutuhkan mesin yang cukup baik hati untuk dibangun demi kebaikan umat manusia, tetapi cukup kejam untuk menyiksa. Dua sifat itu sulit berjalan bersamaan.
Peneliti risiko AI saat ini berfokus pada masalah yang lebih konkret, seperti sistem yang mengejar tujuan yang salah, disalahgunakan untuk merugikan, atau gagal dengan cara yang tidak terduga. Semua itu tidak bergantung pada basilisk.
Di mana ia muncul dalam fiksi
Fiksi sudah lebih dulu sampai ke sana. Cerita Harlan Ellison tahun 1967, “I Have No Mouth, and I Must Scream”, menampilkan AM, superkomputer yang menjaga lima manusia tetap hidup hanya untuk menyiksa mereka selamanya. Itu mimpi buruk tentang kekejaman mesin, meski tanpa logika pemerasan. Kata “basilisk” berasal dari “BLIT” karya Langford, tentang gambar yang membebani pikiran. Film seperti The Terminator, dengan Skynet yang memusuhi manusia, mengajari penonton membayangkan AI sebagai kekuatan pendendam, yaitu suasana yang dimainkan oleh basilisk.
Dalam budaya populer, musisi Grimes memakai tokoh bernama Rococo Basilisk dalam video musik 2015, dan pada 2018 Elon Musk membuat plesetan dari nama itu yang konon membuat keduanya bertemu. Gagasan ini kini lebih sering muncul di meme dan lelucon daripada dalam riset serius.
Kesalahpahaman umum
- “Membacanya membuat Anda dalam bahaya.” Tidak. Ancaman itu bergantung pada rangkaian asumsi yang belum terbukti, dan bahkan jika Anda menerimanya, logikanya menyatakan AI tidak mendapat apa-apa dengan menjalankannya.
- “Komunitas LessWrong memercayainya.” Sebagian besar orang yang membaca unggahan itu tidak setuju, dan banyak yang mengatakannya di kolom komentar.
- “Dilarang karena ancamannya nyata.” Alasan yang dinyatakan Yudkowsky adalah argumennya cacat dan membuat sebagian pembaca tertekan. Belakangan ia menyebut caranya menangani hal itu sebagai kesalahan.
- “Ia memprediksi apa yang akan dilakukan AI.” Tidak. Ini eksperimen pikiran tentang aturan keputusan, bukan ramalan.
- “Ini argumen utama tentang risiko AI.” Bukan. Kekhawatiran serius tentang AI tidak bertumpu padanya.
Baca selanjutnya
Bagian dari hub topik Sejarah Fiksi Ilmiah.
- Paperclip maximizer: eksperimen pikiran AI terkenal lainnya, tentang tujuan sepele yang dikejar tanpa batas.
- Singularitas teknologi: gagasan tentang kecerdasan mesin yang melesat tak terkendali, yang diasumsikan oleh basilisk.
- Hipotesis simulasi: pertanyaan apakah salinan hasil simulasi, atau Anda sendiri, bisa berjalan di dalam komputer.
