Nexus: Kekuatan Informasi dan Ancaman AI

slider
18 Oktober 2024
|
552

Judul: Nexus: A Brief History of Information Networks from the Stone Age to AI | Penulis: Yuval Noah Harari | Penerbit: Random House, 2024 | Tebal: 528 halaman | ISBN: 978-0-593-73424-7

Apa kira-kira yang terlintas dalam benak ketika memikirkan “AI di masa depan”? Barangkali kita akan membayangkan seperti genre film yang bercerita tentang fenomena fiksional dan spekulatif didasarkan pada sains (film sci-fi atau fiksi ilmiah). Barangkali kita akan membayangkan robot pembunuh yang bangkit untuk menghabisi pembuatnya. Seperti dalam film The Matrix, membayangkan mesin raksasa yang menyedot energi dari tubuh sembari meninabobokan kita dengan realitas simulasi.

Tentu saja fenomena fiksional seperti dalam film sci-fi tidak benar-benar terjadi (atau mungkin belum?). Meskipun begitu, kita tidak dapat menafikan fakta bahwa kehadiran AI telah menjadi perhatian banyak pihak. Paling tidak selama dua dekade belakangan.

Pada 2022 silam, misalnya, penulis pernah menulis kasus tentang seorang programmer bernama Blake Lemoine yang dipecat Google pasca wawancara dengan The Washington Post. Dalam wawancara tersebut, Lemoine mengklaim bahwa LaMDA, chatbot yang sedang ia garap, memiliki kesadaran.

Pada Maret 2023, Future of Life Institute merilis surat terbuka yang ditandatangani oleh ratusan pemimpin perusahaan teknologi, termasuk Steve Wozniak dan Elon Musk, meminta agar laboratorium-laboratorium AI menghentikan aktivitas dan penelitian untuk sementara waktu. Kecerdasan buatan, menurut surat itu, menimbulkan “risiko besar bagi masyarakat dan kemanusiaan.”

Bulan berikutnya, Geoffrey Hinton yang dikenal sebagai Bapak AI, mengundurkan diri dari Google, dan mengatakan dihadapan media bahwa ia menyesali pekerjaan yang telah dilakukannya selama ini.

Kita mungkin berpikir bahwa manusia belum merasakan ancaman konkret seperti layaknya dalam film-film sci-fi, di mana AI akan memerangi dan meruntuhkan dominasi manusia. Tetapi perlu dipahami bahwa kita pada dasarnya telah merasakan dan mengalami ancaman, secara tidak sadar, lewat kehadiran AI.

Bagi Yuval Noah Harari, yang telah menghabiskan banyak waktu untuk meneliti AI, menganggap ancaman AI tidak muluk berupa ancaman fisik. Namun, ada ancaman yang jauh lebih berbahaya dari pada itu, yakni termanipulasinya kesadaran manusia.

“Untuk memanipulasi manusia, tidak perlu dilakukan secara fisik dengan menghubungkan otak ke komputer,” kata Harari dalam buku terbarunya berjudul Nexus: A Brief History of Information Networks from the Stone Age to AI. Ancaman yang dimaksud Harari jauh lebih berbahaya, sulit diprediksi, dan berpotensi menjebak manusia dalam krisis eksistensial. Ancaman berupa manipulasi ini mencakup polarisasi wacana dan pengalihdayaan penilaian manusia—pengambilan keputusan hukum, keuangan, atau militer—kepada AI yang kompleksitasnya tidak dapat dipahami oleh pemahaman manusia sendiri.

Harari menulis, “Selama ribuan tahun, para nabi, penyair, dan politisi sudah menggunakan bahasa untuk memanipulasi, membentuk, dan mengatur masyarakat. Sekarang komputer belajar bagaimana melakukannya. Dan mereka tidak perlu mengirimkan robot pembunuh untuk menembak kita. Sebaliknya, mereka dapat memanipulasi manusia untuk menarik pelatuknya.”

Bahasa dan kemampuan manusia untuk mengembangkannya, merupakan hal mendasar bagi sejarawan berkebangsaan Israel ini. Dalam buku Sapiens – A Brief History of Humankind (2014), Harari berpendapat bahwa alasan mengapa manusia mendominasi dan menguasai dunia adalah karena manusia memiliki bakat bercerita yang memungkinkannya untuk bekerja sama dalam jumlah besar. Bakat bercerita yang membikin nenek moyang kita untuk percaya pada hal-hal yang imajiner, merupakan akar dari agama, ekonomi, dan ide tentang bangsa.

Buku Sapiens telah terjual sebanyak 25 juta eksemplar hingga saat ini menjadi sebuah bukti kehebatan Harari dalam bercerita, meskipun buku ini juga banyak dikritik. Para akademisi mempertanyakan keakuratannya, terutama bagaimana Harari menjejalkan 70.000 tahun sejarah manusia hanya dalam 450an halaman.

Nexus yang baru diterbitkan pada awal bulan September 2024, penulis anggap sebagai jawaban terhadap kritik tersebut. Kedua buku ini memiliki kekuatan tersendiri: cerita merupakan hal mendasar dalam Sapiens, sedangkan dalam Nexus semuanya hanyalah tentang jaringan informasi, yang dipandang Harari sebagai struktur dasar penopang masyarakat.

“Kekuasaan selalu berasal dari kerja sama antara sejumlah besar manusia,” tulis Harari. Perekat yang menyatukan jaringan kerja sama ini adalah informasi yang oleh banyak filsuf dan ahli biologi dianggap sebagai “blok pembangun realitas.”

Namun, informasi tidak selalu dapat diandalkan untuk menyampaikan kebenaran tentang dunia. Harari menekankan bahwa informasi sering kali memproduksi fiksi, fantasi, dan delusi massal, yang berujung pada bencana seperti Nazisme dan Stalinisme. Mengapa Homo Sapiens—terlepas dari keberhasilan proses evolusinya—selalu merusak dirinya sendiri? “Kesalahannya,” menurut Harari, “bukan terletak pada sifat kita, tetapi pada jaringan informasi kita.”

Mengulas bagaimana informasi menyesatkan kita di masa lalu, Harari memberikan banyak contoh kasus dalam buku Nexus. Salah satu yang paling berkesan menurut penulis adalah karya Malleus Maleficarum ditulis oleh biarawan Dominika Heinrich Kramer di Austria pada 1480an. Buku Malleus Maleficarum merupakan panduan untuk membunuh penyihir dengan cara yang tidak biasa. Buku ini tidak akan laku jika mesin cetak tidak ditemukan pada 1450. Karena telah adanya mesin cetak, ide-ide gila Kramer pun menyebar ke seluruh Eropa, “memicu kegilaan perburuan penyihir.”

Poin utama Harari adalah bahwa memang benar revolusi informasi memunculkan kemajuan dalam sejarah manusia, tetapi untuk menikmati kemajuan selalu ada harga yang harus kita bayar. Ketika kita menciptakan teknologi-teknologi baru yang memungkinkan kata-kata dan ide-ide pergi melanglang buana lebih jauh dan lebih cepat daripada sebelumnya, banyak informasi yang dimuntahkan, yang pada dasarnya berisi sampah dan sangat berbahaya. Apalagi diperparah oleh fakta bahwa, untuk menjaga ketertiban sosial, fiksi cenderung menjadi instrumen pengikat yang lebih andal daripada kebenaran.

Maka dari itu, apa yang menakutkan dari revolusi AI bukanlah adegan perang antara robot dan manusia seperti yang dicitrakan dalam film-film sci-fi. Tetapi yang menakutkan tentang AI adalah “bahwa kita akan dibanjiri dengan misinformasi dari chatbot AI,” atau bahwa “para penguasa akan menggunakannya untuk mengolah data tentang kehidupan pribadi kita.”

AI tidak seperti teknologi yang pernah ada sebelumnya seperti buku dan radio. Harari berkata bahwa “AI adalah teknologi pertama yang mampu membuat keputusan dan memproduksi ide dengan sendirinya.”

Kita dapat melihat implikasi pernyataan tersebut di Myanmar pada 2016-17 silam, ketika algoritma Facebook mempromosikan propaganda anti-Rohingya yang memicu pembunuhan massal dan pembersihan etnis.

Dalam buku ini, Harari memberikan argumen kuat tentang mengapa kita harus menganggap algoritma sebagai agen otonom dan bagaimana kita dapat dimanipulasi oleh AI. Pandangan pesimis terhadap AI semacam ini memang bukanlah hal baru. Namun, terlepas dari apakah setuju atau tidak dengan kerangka historis Harari tentang AI, sulit untuk tidak terkesan dengan gaya analisisnya.

Lalu, apa yang dapat kita lakukan untuk menyelamatkan manusia dan realitas dari anomali-anomali yang diproduksi AI? Jawabannya sederhana saja, simpul Harari: tundukkan algoritma dan AI melalui regulasi-regulasi yang ketat, dan fokuslah pada “membangun institusi yang memiliki mekanisme koreksi diri yang kuat.”

Solusi yang diusulkan Harari untuk membatasi kekuatan dan pengaruh AI berkisar dari melarang robot meniru manusia hingga mendorong para seniman dan birokrat bekerja sama guna membantu memahami jaringan komputer. Nexus merupakan sebuah diagnosis dan teguran keras agar kita agar segera bertindak menghadapi skenario-skenario terburuk yang mungkin akan terjadi karena kemajuan AI di masa depan.


Category : resensi

SHARE THIS POST


ABOUT THE AUTHOR

Fadlan

Saat ini bekerja sebagai pengajar privat Bahasa Inggris. Memiliki hobi membaca karya-karya non fiksi dan juga menulis, terutama yang berhubungan dengan filsafat, sains, dan teologi