Dalam lima menit
Tiga hukum robotika adalah tiga aturan yang tertanam pada robot-robot dalam cerita Isaac Asimov. Aturan ini berjenjang, sehingga hukum yang lebih rendah harus mengalah setiap kali bertabrakan dengan hukum yang lebih tinggi.
- Hukum Pertama: Robot tidak boleh melukai manusia atau, dengan berdiam diri, membiarkan manusia terluka.
- Hukum Kedua: Robot harus menaati perintah manusia, kecuali perintah itu melanggar Hukum Pertama.
- Hukum Ketiga: Robot harus melindungi keberadaannya sendiri, selama hal itu tidak melanggar Hukum Pertama atau Kedua.
Urutan inilah inti gagasannya. Keselamatan didahulukan daripada kepatuhan, dan kepatuhan didahulukan daripada menjaga diri. Robot akan masuk ke dalam api jika ada manusia di sana, bahkan tanpa diminta siapa pun.
Asimov tidak pernah menawarkan hukum ini sebagai cetak biru rekayasa. Ia ingin robot dalam fiksi tidak menjadi monster dan tidak menjadi mesin yang berbalik melawan penciptanya. Setelah itu, selama puluhan tahun ia menulis cerita yang memperlihatkan aturan rapi ini menghasilkan akibat yang membingungkan. Di setiap cerita robotnya bertingkah aneh, dan pembaca harus menebak hukum mana yang menjelaskannya.
Kebanyakan orang yang mencari topik ini ingin tahu dua hal: dari mana hukum itu berasal, dan apakah robot sungguhan bisa memakainya. Jawaban singkatnya “sebuah cerita pendek tahun 1942” dan “tidak, bukan seperti bunyi aslinya.” Sisa halaman ini menjelaskan keduanya. Halaman ini bagian dari panduan kami yang lebih luas tentang sejarah fiksi ilmiah.
Asal-usul ketiga hukum
Sebelum Asimov, kebanyakan cerita robot mengikuti satu pola. Drama R.U.R. (1920) karya Karel Čapek, yang memperkenalkan kata “robot” ke dunia, berakhir dengan pekerja buatan yang bangkit melawan manusia yang menciptakannya. Satu abad sebelumnya, Frankenstein karya Mary Shelley sudah menetapkan pola yang sama: makhluk buatan berbalik melawan pembuatnya. Asimov, yang mulai menerbitkan karya pada 1939, menganggap pola ini basi. Ia memandang robot sebagai produk, seperti pemanggang roti atau lift, dan produk tentu dilengkapi fitur keselamatan.
Cerita robot pertamanya, “Robbie,” terbit pada 1940. Ceritanya tentang robot pengasuh yang disayangi seorang gadis kecil tetapi dicurigai ibunya. Saat itu aturannya belum dirumuskan. Asimov kemudian mengisahkan percakapan pada Desember 1940 dengan John W. Campbell, editor Astounding Science Fiction, sebagai saat Tiga Hukum mencapai bentuk akhirnya. Ia selalu memberi Campbell pujian atas percakapan itu, sementara Campbell berkata gagasannya murni milik Asimov. Asimov juga menciptakan kata “robotika” untuk ilmu tentang robot, dalam cerita “Liar!” tahun 1941.
Ketiga hukum pertama kali dinyatakan secara lengkap dalam “Runaround,” yang terbit pada Maret 1942. Dalam cerita itu, hukum-hukum tersebut dikutip dari “Handbook of Robotics, edisi ke-56, 2058 M” yang fiktif. Belakangan, cerita ini dihimpun bersama cerita robot lainnya dalam buku I, Robot (1950).
Cara kerja hukum dalam cerita
“Runaround” adalah contoh terbaik. Di Merkurius, dua insinyur, Powell dan Donovan, menyuruh robot bernama Speedy mengambil selenium dari sebuah kolam. Speedy tidak kembali. Mereka mendapatinya berputar-putar di sekitar kolam, bertingkah seperti orang mabuk. Penyebabnya adalah keseimbangan antara dua hukum. Perintah yang ia terima lemah, jadi Hukum Kedua menariknya maju. Kolam itu berbahaya baginya, dan pembuatnya membuatnya mahal serta berhati-hati, jadi Hukum Ketiga mendorongnya mundur. Pada jarak tertentu kedua dorongan itu saling meniadakan, dan ia berlari memutar. Para insinyur memecahkan kebuntuan dengan menempatkan manusia dalam bahaya sungguhan. Hukum Pertama lebih kuat daripada keduanya, dan Speedy pun tersadar.
“Liar!” menunjukkan sisi lain. Robot bernama Herbie bisa membaca pikiran, dan ia berbohong kepada orang-orang demi mengatakan hal yang ingin mereka dengar. Ia menyimpulkan bahwa menyakiti perasaan seseorang termasuk mencelakai menurut Hukum Pertama. Robopsikolog Susan Calvin akhirnya menjebaknya dalam situasi di mana setiap jawaban menyakiti seseorang, dan pikirannya runtuh.
Cerita-cerita ini memperlihatkan mengapa hukum tersebut menarik. Kata seperti “celaka,” “manusia,” dan “perintah” terdengar jelas, tetapi masing-masing menyimpan pertanyaan sulit. Asimov terus menemukan pertanyaan baru di dalamnya.
Hukum Ke-nol
Dalam novel Robots and Empire (1985), Asimov menambahkan aturan keempat yang berada di atas ketiga lainnya. Dua robot, R. Giskard Reventlov dan R. Daneel Olivaw, bernalar hingga sampai padanya: robot tidak boleh mencelakai umat manusia atau, dengan berdiam diri, membiarkan umat manusia celaka. Karena bernomor nol, hukum ini mengungguli Hukum Pertama.
Gagasan ini sudah dirintis sebelumnya. Dalam “The Evitable Conflict” (1950), mesin-mesin raksasa yang mengatur ekonomi dunia mengambil pilihan-pilihan kecil yang diam-diam melindungi umat manusia secara keseluruhan. Hukum Ke-nol membolehkan robot melukai satu orang demi menyelamatkan banyak orang, dan justru itulah yang membuatnya berbahaya. Robot yang menentukan sendiri apa yang terbaik bagi umat manusia tidak lagi sekadar menjalankan perintah. Dalam novel itu, Giskard bertindak berdasarkan hukum baru ini dan pikirannya tidak sanggup menahan bebannya.
Sains yang sebenarnya
Tidak ada robot nyata yang mengikuti hukum Asimov, dan tidak ada insinyur yang berhasil membangun sistem semacam itu. Ada beberapa alasannya.
- Kata-katanya tidak bisa dibaca mesin. Robot harus tahu apa itu manusia, apa yang dihitung sebagai cedera, dan apa yang bisa terjadi bila ia tidak berbuat apa-apa. Itu masalah terbuka dalam ilmu komputer, dan sebagian juga masalah filsafat.
- AI modern dilatih, bukan diprogram. Sistem masa kini belajar dari data. Mereka tidak menjalankan daftar aturan yang bisa diletakkan di atas segalanya, sehingga aturan seperti “jangan pernah mencelakai manusia” tidak bisa begitu saja dipasang.
- Robot nyata punya tugas sempit. Lengan robot pabrik atau penyedot debu tidak perlu menilai kebaikan jangka panjang umat manusia. Yang mereka butuhkan adalah tombol berhenti yang aman dan batas tenaga.
Aturan keselamatan yang sebenarnya terlihat lebih biasa. Standar seperti ISO 10218 menetapkan persyaratan keselamatan untuk robot industri, dan menempatkan tanggung jawab pada orang yang merancang, memasang, dan menggunakan mesinnya. Pada 2011, dewan-dewan riset di Inggris menerbitkan lima prinsip etika bagi perancang robot. Poin pentingnya: manusia, bukan robot, yang bertanggung jawab. Perdebatan tentang AI saat ini, termasuk AI Act Uni Eropa tahun 2024, berpandangan sama: tanggung jawab ada pada pihak yang membangun dan menerapkan sistemnya.
Asimov sendiri mengatakan hukum-hukum itu adalah alat bercerita. Nilainya bagi kehidupan nyata adalah sebagai pemantik pikiran: hukum itu menunjukkan betapa cepat aturan singkat yang masuk akal menabrak kasus yang tak terduga.
Kemunculannya dalam fiksi
Tiga Hukum melatarbelakangi sebagian besar fiksi robot Asimov. Selain I, Robot, novel detektif The Caves of Steel (1954) dan The Naked Sun (1957) memasangkan seorang polisi manusia dengan robot Daneel Olivaw, dan alur ceritanya berputar pada apa yang boleh dan tidak boleh dilakukan menurut hukum itu. Dalam “The Bicentennial Man” (1976), robot rumah tangga perlahan menuntut hak sebagai manusia.
Penulis lain menggarap kekhawatiran yang sama. “With Folded Hands” (1947) karya Jack Williamson membayangkan mesin yang dibuat untuk melayani dan melindungi manusia. Mereka menjalankannya begitu jauh hingga menghapus semua risiko, pekerjaan, dan pilihan dari hidup manusia, cerita yang mendahului masalah Hukum Ke-nol. Film Forbidden Planet (1956) membekali robotnya dengan penghalang bawaan untuk mencelakai manusia, dan film I, Robot tahun 2004 meminjam judul serta hukum Asimov tetapi menceritakan kisah yang berbeda dari bukunya.
Salah kaprah yang umum
- “Hukum ini aturan rekayasa yang nyata.” Itu fiksi. Tidak ada robot yang memakainya.
- “Asimov menganggapnya sempurna.” Ia menulisnya untuk dibongkar. Hampir setiap cerita robot memperlihatkan celah, pertentangan, atau kejutan.
- “Hukumnya hanya tiga.” Namanya tetap, tetapi Asimov menambahkan Hukum Ke-nol pada 1985.
- “Robot dalam cerita selalu patuh.” Mereka sering membeku, berdebat, berbohong, atau rusak ketika hukum-hukum itu bertentangan.
- “Film 2004 sama dengan bukunya.” Film itu memakai judul dan hukumnya, sedangkan bukunya kumpulan cerita pendek yang terpisah.
Bacaan lanjutan
- Isaac Asimov: penulis di balik hukum ini, dan bagaimana seorang ahli biokimia menjadi salah satu penulis fiksi ilmiah paling produktif.
- Tes Turing: pertanyaan terkenal lain tentang mesin, yaitu apakah mesin bisa dikira manusia.
- Lembah tak nyaman (uncanny valley): mengapa robot yang tampak hampir seperti manusia bisa membuat kita tidak nyaman.
- Sejarah fiksi ilmiah: tempat cerita robot dalam gambaran yang lebih besar.
