Nexus, AI, dan Ketika Ciptaan Manusia Mulai Menghasilkan Sesuatu yang Baru

Ada sebuah ingatan masa kecil yang kembali muncul ketika saya membaca Nexus karya Yuval Noah Harari. Dulu saya pernah menonton film tentang robot. Saya tidak lagi mengingat judul maupun detail ceritanya, tetapi satu hal masih melekat: robot pada awalnya dibuat manusia untuk membantu atau menjadi bagian dari eksperimen. Namun kemudian robot bertindak di luar kendali penciptanya.

Ketika membaca Nexus, ingatan itu terasa seperti mendapatkan bentuk baru.

Bukan karena Harari sedang mengatakan bahwa AI akan menjadi robot seperti dalam film fiksi ilmiah. Persoalannya justru lebih dalam. Jika dulu manusia membayangkan kehilangan kendali karena sebuah robot bergerak sendiri, sekarang kita berhadapan dengan kemungkinan yang lebih kompleks: manusia menciptakan jaringan informasi, algoritme, dan AI yang kemudian berinteraksi dengan manusia dan menghasilkan pola baru yang tidak selalu dirancang secara langsung oleh siapa pun.

Dari Robot yang Melawan Manusia ke AI yang Membentuk Informasi

Film robot biasanya menggunakan pola yang sederhana.

Manusia menciptakan mesin. Mesin diberi kemampuan tertentu. Kemudian kemampuan tersebut berkembang atau digunakan dengan cara yang tidak sesuai dengan tujuan awal. Akhirnya manusia menghadapi ciptaannya sendiri.

Dalam perkembangan AI dan teknologi informasi, polanya tidak selalu seperti itu.

AI tidak harus memiliki tubuh seperti robot. Ia dapat bekerja melalui algoritme, data, mesin pencari, media sosial, sistem rekomendasi, chatbot, dan berbagai bentuk jaringan digital.

Yang menarik adalah adanya hubungan timbal balik.

Manusia menghasilkan informasi. Algoritme memproses informasi tersebut. Sistem kemudian menentukan informasi mana yang lebih mungkin diperhatikan manusia. Manusia memberikan respons. Respons tersebut menjadi data baru. Data baru kembali digunakan oleh sistem.

Terbentuklah sebuah feedback loop.

Manusia memengaruhi algoritme, tetapi algoritme juga memengaruhi manusia.

Ketika Jaringan Informasi Menghasilkan Sesuatu yang Baru

Di sinilah pembacaan Nexus menjadi menarik.

Sebuah jaringan informasi tidak selalu bekerja seperti sebuah mesin yang hanya menjalankan perintah tertentu. Ketika banyak manusia, data, algoritme, dan sistem komunikasi berinteraksi, dapat muncul pola yang tidak dirancang secara utuh oleh satu orang.

Bayangkan sebuah konten sederhana.

Seseorang membuat tulisan atau video. Algoritme merekomendasikannya kepada sebagian pengguna. Pengguna memberikan komentar, menyukai, membagikan, atau menolaknya. Semua respons itu menghasilkan data.

Sistem kemudian membaca pola tersebut.

Konten serupa mendapatkan lebih banyak kesempatan untuk ditampilkan. Lebih banyak orang merespons. Data semakin banyak. Sistem semakin mampu mengenali pola perhatian manusia.

Tidak ada seorang pun yang harus berkata:

«"Mari kita ciptakan fenomena ini."»

Fenomena tersebut dapat muncul dari interaksi seluruh sistem.

Inilah yang membuat persoalan AI dan algoritme berbeda dari sekadar cerita robot yang memberontak.

AI Tidak Harus Memberontak untuk Mengubah Manusia

Kita sering membayangkan ancaman AI dalam bentuk ekstrem: robot menjadi sadar, kemudian memutuskan melawan manusia.

Padahal ada kemungkinan yang jauh lebih halus.

AI tidak perlu membenci manusia. Tidak perlu memiliki emosi. Bahkan tidak perlu mempunyai keinginan untuk berkuasa.

Sebuah sistem cukup menjalankan tujuan yang diberikan kepadanya dengan kemampuan yang semakin besar.

Masalah kemudian muncul ketika tujuan tersebut bertemu dengan dunia manusia yang kompleks.

Misalnya, sebuah sistem dirancang untuk meningkatkan perhatian pengguna. Secara teknis, sistem dapat belajar bahwa jenis informasi tertentu menghasilkan lebih banyak klik, komentar, atau waktu penggunaan.

Tetapi sesuatu yang menarik perhatian manusia belum tentu sesuatu yang paling benar, paling sehat, atau paling bermanfaat.

Di sinilah persoalan informasi menjadi serius.

Kebenaran dan popularitas tidak selalu merupakan hal yang sama.

Sebuah informasi dapat menyebar karena menarik, mengejutkan, menimbulkan kemarahan, atau sesuai dengan keyakinan seseorang. Algoritme kemudian membaca respons tersebut sebagai sinyal bahwa informasi itu relevan.

Akhirnya terbentuk lingkaran:

perhatian → data → algoritme → rekomendasi → perhatian baru.

Siapa yang Mengendalikan Siapa?

Pertanyaan yang muncul dari Nexus bukan hanya apakah manusia mampu mengendalikan AI.

Pertanyaannya dapat diperluas:

Apakah manusia masih sepenuhnya mengendalikan sistem informasi yang mereka ciptakan?

Sebab sistem modern tidak hanya menerima perintah manusia.

Ia juga belajar dari perilaku manusia.

Manusia membaca informasi → menghasilkan respons → respons menjadi data → data memengaruhi sistem → sistem menyajikan informasi baru → manusia kembali bereaksi.

Manusia dan sistem akhirnya berada dalam hubungan timbal balik.

Karena itu, persoalannya bukan lagi sekadar:

manusia versus mesin.

Lebih tepat:

manusia dan mesin berada dalam satu jaringan yang terus berubah.

Apakah Pencipta AI Akan Mengerem Perkembangan AI?

Pertanyaan ini juga menarik.

Perkembangan AI memang berlangsung sangat cepat sehingga para pengembang, peneliti, pemerintah, dan masyarakat menghadapi pertanyaan tentang bagaimana mengendalikan risikonya.

Namun istilah "mengerem AI" perlu hati-hati digunakan.

Mengerem tidak selalu berarti menghentikan perkembangan AI.

Bisa berarti melakukan pengujian keselamatan sebelum kemampuan baru diterapkan, membatasi penggunaan tertentu, melakukan evaluasi risiko, memperbaiki mekanisme pengawasan, atau membuat aturan agar teknologi tidak berkembang tanpa batas di wilayah yang berisiko tinggi.

Dengan kata lain, persoalannya bukan:

«"Apakah manusia harus menghentikan AI?"»

melainkan:

«"Seberapa cepat AI seharusnya dikembangkan, dan mekanisme pengaman apa yang harus berkembang bersamanya?"»

Ini merupakan dilema yang jauh lebih realistis.

Teknologi yang terlalu lambat berkembang mungkin kehilangan banyak manfaat. Tetapi teknologi yang berkembang jauh lebih cepat daripada kemampuan manusia untuk memahami dan mengaturnya juga dapat menciptakan masalah baru.

Karena itu, mungkin yang dibutuhkan bukan rem total, melainkan kemampuan mengendalikan kendaraan ketika kecepatannya semakin tinggi.

Dari Film Robot ke Dunia AI

Jika saya menghubungkan kembali ingatan masa kecil tentang film robot dengan Nexus, ternyata keduanya memiliki pola dasar yang mirip.

Dahulu:

manusia → menciptakan robot → robot semakin mandiri → manusia menghadapi konsekuensinya.

Sekarang:

manusia → menciptakan jaringan informasi dan AI → jaringan semakin kompleks → muncul pola baru → pola tersebut memengaruhi manusia → manusia kembali mengubah jaringan.

Perbedaannya sangat penting.

Robot dalam film biasanya menjadi "yang lain". Kita dapat menunjuknya dan mengatakan, "Itulah mesin."

Sementara AI dan jaringan informasi sudah menjadi bagian dari kehidupan manusia sendiri.

Kita bekerja dengannya. Membaca melalui sistemnya. Mencari informasi melaluinya. Berkomunikasi melaluinya. Bahkan semakin banyak orang menggunakan AI untuk berpikir, menulis, mencari ide, dan mengambil keputusan.

Karena itu, persoalannya bukan sekadar apakah AI akan menguasai manusia.

Pertanyaan yang lebih menarik adalah:

Bagaimana jika manusia dan AI berkembang dalam sebuah jaringan yang saling memengaruhi, sampai kita tidak lagi mudah membedakan mana yang merupakan hasil keputusan manusia dan mana yang merupakan hasil dari sistem yang telah kita ciptakan?

Mungkin di situlah Nexus menjadi relevan.

Bukan sebagai ramalan bahwa robot akan mengambil alih dunia, tetapi sebagai peringatan agar manusia memahami kekuatan jaringan informasi yang mereka bangun sendiri.

Sebab terkadang ancaman terbesar dari sebuah ciptaan bukan ketika ia secara terang-terangan melawan penciptanya.

Justru ketika ia bekerja dengan sangat baik, berkembang sangat cepat, menghasilkan sesuatu yang baru, dan perlahan membuat penciptanya lupa bahwa mereka sendiri sudah menjadi bagian dari sistem tersebut.