Ditulis oleh: Zhixiong Pan
Artikel Vitalik yang diterbitkan beberapa minggu lalu berjudul "Galaxy Brain Resistance" sebenarnya cukup sulit dipahami, dan saya belum melihat interpretasi yang baik, jadi saya akan mencoba menjelaskannya.
Bagaimanapun, saya melihat pencipta istilah Vibe Coding, Karpathy, juga membaca artikel ini dan mencatatnya, jadi pasti ada sesuatu yang istimewa.
Pertama-tama, mari kita bahas arti dari judul Galaxy Brain dan Resistance. Setelah memahami judul ini, Anda akan mengerti inti dari artikel ini.
1️⃣ Galaxy Brain diterjemahkan ke dalam bahasa Mandarin sebagai "otak galaksi", namun sebenarnya berasal dari meme internet, mirip dengan gambar (🌌🧠) yang digabungkan, Anda pasti pernah melihatnya.
Pada awalnya, istilah ini tentu saja bermakna positif, digunakan untuk memuji ide seseorang yang sangat brilian, yaitu cerdas. Namun, seiring penggunaannya yang berlebihan, maknanya perlahan berubah menjadi semacam sindiran, kira-kira berarti "terlalu banyak berpikir, logikanya terlalu berputar-putar".
Vitalik di sini menyebut 🌌🧠, secara khusus merujuk pada perilaku "menggunakan kecerdasan tinggi untuk melakukan akrobatik berpikir, memaksakan hal yang tidak masuk akal menjadi seolah-olah sangat masuk akal". Misalnya:
- Jelas-jelas melakukan PHK besar-besaran untuk menghemat biaya, tapi malah dikatakan sebagai "menyumbangkan talenta berkualitas tinggi ke masyarakat".
- Jelas-jelas menerbitkan koin kosong untuk menipu investor, tapi mengklaim sedang "memberdayakan ekonomi global melalui tata kelola terdesentralisasi".
Semua ini bisa dianggap sebagai pola pikir "otak galaksi".
2️⃣ Lalu apa arti Resistance (resistensi)? Konsep ini mudah membingungkan, dalam istilah populer bisa dianalogikan sebagai "kemampuan untuk tidak terbawa arus", atau "kemampuan untuk tidak mudah dibohongi".
Jadi Galaxy Brain Resistance seharusnya berarti Resistance to [becoming] Galaxy Brain, yaitu: "kemampuan untuk menahan diri agar tidak menjadi (atau berubah menjadi) otak galaksi (ngaco)".
Atau lebih tepatnya, digunakan untuk menggambarkan seberapa mudah atau sulit suatu pola pikir/argumen disalahgunakan untuk "membuktikan kesimpulan apa pun yang Anda inginkan".
Jadi "resistensi" ini bisa ditujukan pada suatu "teori", misalnya,
- Teori dengan resistensi rendah (Low Resistance): Sedikit saja dianalisis, bisa berkembang menjadi logika "otak galaksi" yang sangat tidak masuk akal.
- Teori dengan resistensi tinggi (High Resistance): Bagaimanapun Anda menganalisisnya, ia tetap pada bentuk aslinya, sangat sulit berubah menjadi logika yang tidak masuk akal.
Misalnya, Vitalik mengatakan, dalam masyarakat ideal menurutnya, hukum harus memiliki garis merah: hanya ketika dapat dijelaskan secara jelas bagaimana suatu tindakan membahayakan atau berisiko bagi korban tertentu, barulah tindakan itu boleh dilarang. Standar seperti ini memiliki resistensi Galaxy Brain yang sangat tinggi, karena tidak menerima alasan yang terlalu subjektif atau kabur seperti "saya tidak suka" atau "tidak bermoral".
3️⃣ Vitalik juga memberikan banyak contoh dalam artikelnya, bahkan menggunakan teori yang sering kita dengar, seperti "longtermisme" dan "inevitabilisme".
"Longtermisme" sangat sulit menahan erosi pola pikir 🌌🧠, karena resistensinya sangat rendah, hampir seperti "cek kosong". Karena "masa depan" terlalu jauh dan terlalu kabur.
- Pernyataan dengan resistensi tinggi: "Pohon ini akan tumbuh setinggi 5 meter dalam 10 tahun." Ini dapat diverifikasi, tidak mudah untuk dibohongi.
- "Longtermisme" dengan resistensi rendah: "Meskipun sekarang saya harus melakukan sesuatu yang sangat tidak bermoral (misalnya mengeliminasi sebagian orang, atau memulai perang), tapi ini demi kehidupan utopis umat manusia 500 tahun ke depan. Menurut perhitungan saya, kebahagiaan masa depan tidak terbatas, jadi pengorbanan saat ini dapat diabaikan."
Lihat, selama Anda memperpanjang waktu cukup lama, Anda bisa membenarkan kejahatan apa pun saat ini. Seperti yang dikatakan Vitalik: "Jika argumen Anda bisa membenarkan apa pun, maka argumen Anda sebenarnya tidak membuktikan apa-apa."
Namun Vitalik juga mengakui bahwa "jangka panjang itu penting", yang ia kritik adalah "menggunakan manfaat jangka panjang yang terlalu kabur dan tidak dapat diverifikasi untuk menutupi kerugian nyata saat ini".
Area masalah lainnya adalah "inevitabilisme" (Inevitabilism).
Ini juga merupakan senjata pertahanan favorit di Silicon Valley dan dunia teknologi.
Retorikanya seperti ini: "AI menggantikan pekerjaan manusia adalah keniscayaan sejarah, bahkan jika saya tidak melakukannya, orang lain akan melakukannya. Jadi saya sekarang mengembangkan AI secara agresif bukan untuk mencari uang, tetapi untuk mengikuti arus sejarah."
Di mana resistensinya rendah? Ia secara sempurna menghilangkan rasa tanggung jawab manusia. Karena sudah "pasti", maka saya tidak perlu bertanggung jawab atas kerusakan yang saya sebabkan.
Ini juga merupakan contoh klasik otak galaksi: membungkus keinginan pribadi "ingin kaya / ingin berkuasa" menjadi "saya sedang menjalankan tugas sejarah".
4️⃣ Lalu bagaimana kita menghadapi "jebakan orang pintar" ini?
Obat yang diberikan Vitalik sangat sederhana, bahkan terkesan "bodoh". Menurutnya, semakin pintar seseorang, semakin perlu aturan dengan resistensi tinggi untuk membatasi diri, agar tidak terjebak dalam akrobatik otak sendiri.
Pertama, pegang teguh "deontologi" (Deontological Ethics), yaitu aturan moral tingkat taman kanak-kanak.
Jangan repot-repot menghitung "demi masa depan umat manusia" dengan rumus matematika yang rumit, kembali saja ke prinsip paling kaku:
- Jangan mencuri
- Jangan membunuh orang yang tidak bersalah
- Jangan menipu
- Hormati kebebasan orang lain
Aturan-aturan ini memiliki resistensi yang sangat tinggi. Karena sifatnya hitam-putih, tidak bisa ditawar. Ketika Anda mencoba menggunakan dalih "longtermisme" untuk menjelaskan mengapa Anda menggelapkan dana pengguna, aturan kaku "jangan mencuri" akan langsung membantah Anda: mencuri tetaplah mencuri, jangan berdalih demi revolusi keuangan besar.
Kedua, miliki "posisi" yang benar, bahkan termasuk posisi fisik.
Seperti kata pepatah, posisi menentukan cara berpikir. Jika Anda setiap hari berada di ruang gema Bay Area San Francisco, dikelilingi oleh para penganut akselerasionisme AI, sangat sulit untuk tetap jernih. Vitalik bahkan memberikan saran resistensi tinggi secara fisik: jangan tinggal di Bay Area San Francisco.
5️⃣ Kesimpulan
Artikel Vitalik ini sebenarnya memperingatkan para elit super pintar: jangan karena Anda merasa cerdas, lalu merasa bisa mengabaikan batas moral yang sederhana.
Teori "otak galaksi" yang terdengar mampu menjelaskan segalanya, sering kali adalah alasan serba guna yang paling berbahaya. Sebaliknya, aturan "resistensi tinggi" yang terdengar kaku dan dogmatis justru menjadi garis pertahanan terakhir agar kita tidak menipu diri sendiri.
