Dalam lima menit
Singularitas teknologi adalah momen hipotetis di masa depan ketika teknologi, terutama kecerdasan buatan (AI), meningkatkan dirinya sendiri begitu cepat hingga peramalan manusia tidak lagi berguna. Istilah ini dipinjam dari matematika dan fisika, tempat singularitas berarti titik ketika sebuah model tidak lagi berlaku. Tidak ada yang bisa memastikan apa yang terjadi setelahnya, dan itulah maksud kata tersebut. Gagasan ini termasuk yang tertua dalam sejarah fiksi ilmiah, dan para insinyur maupun novelis telah memperdebatkannya selama puluhan tahun.
Argumen intinya terdiri dari tiga langkah. Pertama, bayangkan manusia membuat mesin yang lebih pandai merancang mesin daripada manusia sendiri. Mesin itu bisa merancang penerus yang lebih baik. Kedua, penerus itu bisa melakukan hal yang sama, dan jika setiap putaran memakan waktu lebih singkat daripada sebelumnya, kemajuan akan semakin cepat, bukan stabil. Ketiga, setelah beberapa putaran, hasilnya bisa berupa kecerdasan yang jauh melampaui apa pun yang dapat diikuti pikiran manusia. Matematikawan I. J. Good menyebut ini “ledakan kecerdasan” pada 1965.
Ada baiknya memisahkan tiga klaim yang sering tercampur. Yang pertama: teknologi terus melaju makin cepat, dan ini teramati di beberapa bidang, terutama komputasi. Yang kedua: suatu hari mesin akan menyamai atau melampaui kecerdasan manusia, yang mungkin terjadi tetapi belum terbukti. Yang ketiga: hal itu akan memicu peningkatan diri yang tak terkendali, dan ini masih hipotesis. Singularitas memerlukan ketiganya, dan hanya yang pertama yang punya bukti kuat.
Dari mana gagasan ini berasal
Petunjuk paling awal adalah sebuah ucapan yang dikaitkan dengan matematikawan John von Neumann. Dalam penghormatan tahun 1958, rekannya Stanislaw Ulam mengenang percakapan tentang perubahan teknologi yang terus mempercepat diri, dan tentang sebuah titik yang mendekat, yang setelahnya urusan manusia seperti yang kita kenal tidak bisa berjalan dengan cara yang sama.
Versi yang lebih tajam datang dari I. J. Good, matematikawan Inggris yang bekerja sebagai pemecah sandi di Bletchley Park pada masa Perang Dunia II. Dalam makalah tahun 1965 ia membayangkan “mesin ultracerdas”, yaitu mesin yang dapat melampaui setiap kegiatan intelektual manusia mana pun, sepandai apa pun orang itu. Merancang mesin adalah kegiatan intelektual, pikirnya, sehingga mesin semacam itu bisa merancang mesin yang lebih baik lagi. Ia menambahkan bahwa mesin ultracerdas pertama akan menjadi penemuan terakhir yang perlu dibuat manusia, selama mesin itu tetap terkendali.
Namanya melekat berkat Vernor Vinge, seorang matematikawan sekaligus penulis fiksi ilmiah. Ia memakai kata itu dalam sebuah kolom majalah pada 1983, lalu menulis esai “The Coming Technological Singularity” untuk simposium yang disponsori NASA pada 1993. Di sana ia meramalkan bahwa dalam tiga puluh tahun kita akan memiliki sarana teknis untuk menciptakan kecerdasan super-manusia, dan tak lama sesudahnya era manusia akan berakhir. Ia menyebut beberapa jalur yang mungkin: komputer yang “terbangun”, jaringan yang menjadi cerdas, hubungan yang lebih erat antara manusia dan mesin, serta biologi yang meningkatkan pikiran manusia. Ia juga mengatakan akan terkejut jika hal itu terjadi sebelum 2005 atau setelah 2030.
Penemu dan futuris Ray Kurzweil membawa gagasan ini ke khalayak luas lewat The Singularity Is Near (2005). Ia mengemukakan “hukum percepatan imbal hasil”, yaitu teknologi informasi meningkat secara eksponensial. Ia memperkirakan AI setara manusia sekitar 2029 dan singularitas sekitar 2045, dan pada 2024 ia menerbitkan lanjutannya, The Singularity Is Nearer, yang mempertahankan tahun-tahun itu. Di antaranya, buku Superintelligence (2014) karya filsuf Nick Bostrom menggeser perdebatan ke pertanyaan praktis: jika suatu hari muncul mesin yang jauh lebih cerdas, bagaimana kita memastikan tujuannya selaras dengan tujuan kita?
Sains yang sebenarnya
Hal yang sudah mapan lebih sempit daripada yang disiratkan judul-judul berita. Daya komputasi memang tumbuh secara eksponensial selama beberapa dekade. Gordon Moore memperhatikan pada 1965 bahwa jumlah komponen pada sebuah cip berlipat ganda dengan laju yang stabil, dan tren itu, yang kemudian dipatok sekitar setiap dua tahun, bertahan lama. Namun sejak pertengahan 2000-an, kecepatan clock cip tidak lagi naik banyak, dan memperkecil ukurannya makin sulit dan mahal.
AI juga mencapai tonggak nyata. Deep Blue milik IBM mengalahkan juara dunia catur Garry Kasparov pada 1997, dan AlphaGo milik DeepMind mengalahkan master Go Lee Sedol pada 2016. Model bahasa besar masa kini bisa menulis, membuat kode, dan menjawab pertanyaan di banyak topik. Tidak satu pun dari itu sama dengan sistem yang merancang ulang fondasinya sendiri dan terus berkembang tanpa bantuan.
Pertanyaan terbuka itulah inti perdebatan sebenarnya. Apakah kecerdasan itu satu hal yang bisa diperbesar, atau banyak keterampilan yang berbeda? Apakah perbaikan makin mudah seiring sistem makin pintar, atau makin sulit karena gagasan terbaik dipakai lebih dulu? Batas fisik seperti energi, pasokan perangkat keras, dan data pelatihan dapat memperlambat ledakan apa pun. Kaum skeptis seperti Paul Allen mengajukan “rem kompleksitas”: makin banyak yang kita pahami tentang pikiran, makin rumit ternyata pikiran itu. Para pendukung menjawab bahwa sebuah sistem tidak perlu meniru otak untuk mengungguli cara berpikirnya. Para peneliti AI sangat berbeda pendapat tentang kapan, atau apakah, mesin akan mencapai kemampuan setara manusia, sehingga satu tahun tertentu sebaiknya dibaca sebagai satu ramalan di antara banyak ramalan.
Sebagian peneliti juga membedakan “lepas landas lambat”, ketika kemampuan naik selama bertahun-tahun atau puluhan tahun sehingga masyarakat sempat beradaptasi, dari “lepas landas cepat”, ketika lonjakan terjadi dalam hitungan hari atau minggu. Sebagian besar perdebatan keselamatan AI berkisar pada persiapan menghadapi kasus kedua sambil berharap yang terjadi kasus pertama.
Di mana gagasan ini muncul dalam fiksi
Vinge menuangkan gagasan ini ke dalam ceritanya jauh sebelum esainya. Dalam Marooned in Realtime (1986), manusia di masa depan yang jauh telah lenyap dalam sebuah peristiwa yang hanya bisa ditebak oleh para penyintas, dan A Fire Upon the Deep (1992) membayangkan galaksi tempat tingkat kecerdasan yang mungkin bergantung pada lokasi. Keduanya bagus untuk melihat bagaimana seorang novelis menggarap titik yang di baliknya tak ada yang bisa diprediksi.
Accelerando (2005) karya Charles Stross mengikuti satu keluarga selama tiga generasi saat ekonomi dan pikiran manusia dibentuk ulang kian cepat. Novel ini lebih menyerupai tur gagasan yang jenaka dan memusingkan daripada sebuah peringatan.
2001: A Space Odyssey karya Arthur C. Clarke bukan tentang peningkatan diri yang tak terkendali, tetapi novel ini menetapkan pola bagi pikiran mesin dalam fiksi. Komputer pesawatnya, HAL 9000, menunjukkan ketakutan orang pada mesin berpikir yang tujuannya menyimpang dari tujuan awak kapal, dan alur besar ceritanya adalah manusia yang diubah oleh kecerdasan yang lebih agung. Selengkapnya ada di halaman kami tentang 2001: A Space Odyssey. Cerpen “The Last Question” (1956) karya Isaac Asimov merentangkan satu komputer yang terus membesar sepanjang miliaran tahun. Film seperti Her dan Transcendence juga mengangkat tema ini.
Kesalahpahaman umum
“Singularitas berarti robot mengambil alih.” Kata ini menggambarkan batas kemampuan memprediksi, bukan tokoh jahat. Sistem super-cerdas bisa membantu, merugikan, atau sekadar acuh, dan gagasan ini tidak menentukan yang mana. Risiko sistem mengejar tujuan dengan cara yang tidak diinginkan siapa pun dibahas dalam eksperimen pikiran paperclip maximizer.
“Singularitas dijadwalkan pada 2045.” Tahun itu adalah ramalan Kurzweil, bukan konsensus ilmiah. Rentang Vinge sendiri, 2005 sampai 2030, sudah lewat tanpa peristiwa itu terjadi, dan ia menganggap tahunnya sebagai kemungkinan, bukan janji.
“Singularitas sama dengan kecerdasan umum buatan.” Kecerdasan umum buatan, atau AGI, berarti sistem yang bisa mengerjakan sebagian besar tugas intelektual sebaik manusia. Singularitas adalah akibat hipotetis sesudahnya, ketika sistem semacam itu memperbaiki dirinya melampaui pemahaman manusia. AGI bisa ada tanpa singularitas.
“Singularitas sama dengan transhumanisme.” Keduanya beririsan karena sama-sama membayangkan teknologi mengubah hakikat manusia, tetapi singularitas adalah prediksi tentang kecerdasan dan kecepatan, sedangkan transhumanisme adalah gerakan dengan tujuan memperbaiki kondisi manusia.
“Singularitas berkaitan dengan Roko's basilisk.” Basilisk adalah eksperimen pikiran tentang AI masa depan dan teori keputusan. Ia bukan bagian dari argumen untuk singularitas. Lihat Roko's basilisk untuk apa yang diklaim dan tidak diklaimnya.
“Singularitas bekerja seperti lubang hitam.” Pinjaman istilah itu hanyalah metafora. Dalam fisika, singularitas adalah tempat kerapatan menjadi tak terhingga. Di sini ia hanya menandai batas apa yang bisa kita perkirakan.
Bacaan selanjutnya
- Sejarah Fiksi Ilmiah: kisah lebih luas tentang bagaimana penulis membayangkan mesin, antariksa, dan masa depan.
- Transhumanisme: gerakan yang ingin memakai teknologi untuk mengubah batas-batas manusia.
- Paperclip maximizer: eksperimen pikiran terkenal tentang AI yang kuat dengan tujuan yang keliru.
- Roko's basilisk: eksperimen pikiran kontroversial yang sering disangka sama dengan singularitas.
- 2001: A Space Odyssey: novel yang memberi fiksi mesin berpikir paling terkenalnya.
