Zrozumieć długi tekst Vitalika: dlaczego mądrzy ludzie powinni trzymać się „głupich zasad”?

Teorie „galaktycznego mózgu”, które wydają się wyjaśniać wszystko, często są najniebezpieczniejszym uniwersalnym usprawiedliwieniem. Natomiast te sztywne, dogmatyczne zasady o „wysokiej odporności” są ostatnią linią obrony przed oszukiwaniem samego siebie.

Autor: Zhixiong Pan

Artykuł Vitalika opublikowany kilka tygodni temu, Galaxy Brain Resistance, jest dość zawiły i trudny do zrozumienia, a nie widziałem dobrych interpretacji, więc spróbuję sam.

W końcu twórca terminu Vibe Coding, Karpathy, również przeczytał ten artykuł i zrobił notatki, więc na pewno jest w nim coś wyjątkowego.

Najpierw wyjaśnijmy, co oznaczają w tytule Galaxy Brain i Resistance. Po zrozumieniu tego tytułu, będziesz wiedział, o czym mniej więcej jest ten artykuł.

1️⃣ Galaxy Brain po chińsku to „galaktyczny mózg”, ale w rzeczywistości pochodzi z internetowego mema (Meme), podobnego do połączenia (🌌🧠), który na pewno widziałeś.

Początkowo miało to pozytywne znaczenie, służyło do chwalenia czyjegoś genialnego pomysłu, czyli bycia mądrym. Jednak z czasem, gdy zaczęto tego nadużywać, stało się to pewnego rodzaju ironią, oznaczającą „przesadne myślenie, zbyt zawiłą logikę”.

Vitalik, wspominając tutaj 🌌🧠, odnosi się konkretnie do zachowania polegającego na „wykorzystywaniu wysokiej inteligencji do gimnastyki umysłowej, by na siłę nadać sens czemuś, co go nie ma”. Na przykład:

- Oczywiste cięcia kosztów i masowe zwolnienia są przedstawiane jako „dostarczanie wysoko wykwalifikowanych talentów społeczeństwu”.

- Emitowanie bezwartościowych tokenów w celu oszukania inwestorów jest reklamowane jako „wzmacnianie globalnej gospodarki poprzez zdecentralizowane zarządzanie”.

Wszystko to można uznać za myślenie w stylu „galaktycznego mózgu”.

2️⃣ A czym jest Resistance (odporność)? To pojęcie łatwo pomylić, ale w popularnym ujęciu można je porównać do „umiejętności opierania się manipulacji” lub „odporności na bycie oszukanym”.

Więc Galaxy Brain Resistance to Resistance to [becoming] Galaxy Brain, czyli: „zdolność do opierania się (przekształceniu się w) galaktyczny mózg (bełkot)”.

Albo, mówiąc dokładniej, służy do opisania, jak łatwo dany styl myślenia/argumentacji może być nadużywany do „udowodnienia dowolnego wniosku, jaki chcesz”.

Ta „odporność” może dotyczyć konkretnej „teorii”, na przykład:

- Teorie o niskiej odporności (Low Resistance): wystarczy je lekko przeanalizować, by przekształciły się w absurdalną logikę „galaktycznego mózgu”.

- Teorie o wysokiej odporności (High Resistance): bez względu na to, jak je analizujesz, pozostają niezmienne i trudno je wypaczyć.

Na przykład Vitalik mówi, że w jego idealnym społeczeństwie prawo powinno mieć wyraźną granicę: tylko wtedy, gdy można jasno wyjaśnić, jak dane zachowanie szkodzi lub stwarza ryzyko dla konkretnej ofiary, można je zakazać. Taki standard ma wysoką odporność na Galaxy Brain, ponieważ nie akceptuje „subiektywnie mi się nie podoba” czy „jest niemoralne” jako rozciągliwych lub niejasnych powodów.

3️⃣ Vitalik w artykule podaje wiele przykładów, nawet tych, które często słyszymy, jak „longtermizm” i „inevitabilizm”.

„Longtermizm” bardzo trudno oprzeć się myśleniu w stylu 🌌🧠, ponieważ ma bardzo niską odporność, jest wręcz „czystym czekiem”. Bo „przyszłość” jest zbyt odległa i niejasna.

- Wysoka odporność: „To drzewo za 10 lat urośnie o 5 metrów”. To można zweryfikować, trudno tu o bełkot.

- Niska odporność „longtermizmu”: „Chociaż teraz muszę zrobić coś bardzo niemoralnego (np. wyeliminować część ludzi lub wywołać wojnę), to wszystko po to, by za 500 lat ludzkość żyła w utopii. Według moich obliczeń, przyszłe szczęście jest nieskończone, więc obecne poświęcenia są pomijalne.”

Widzisz, jeśli tylko wystarczająco wydłużysz perspektywę czasową, możesz usprawiedliwić każde obecne zło. Jak mówi Vitalik: „Jeśli twoja argumentacja może uzasadnić wszystko, to w rzeczywistości nie uzasadnia niczego”.

Jednak Vitalik przyznaje, że „długoterminowość jest ważna”, krytykuje jedynie „przesadne, nieweryfikowalne korzyści w przyszłości, które mają przykryć obecne, wyraźne szkody”.

Kolejnym problematycznym obszarem jest „inevitabilizm” (Inevitabilism).

To także ulubiona taktyka w Dolinie Krzemowej i środowiskach technologicznych.

Retoryka jest taka: „AI zastąpi ludzką pracę, to historyczna konieczność, nawet jeśli ja tego nie zrobię, zrobi to ktoś inny. Więc teraz agresywnie rozwijam AI nie dla zysku, ale by podążać za duchem czasu”.

Gdzie tu niska odporność? Doskonale rozmywa poczucie odpowiedzialności. Skoro to „nieuniknione”, nie muszę brać odpowiedzialności za szkody, które wyrządzam.

To również typowy „galaktyczny mózg”: własne pragnienie zysku/władzy jest przedstawiane jako „wykonywanie historycznej misji”.

4️⃣ Co więc robić w obliczu tych „pułapek dla inteligentnych ludzi”?

Vitalik proponuje zaskakująco prostą, wręcz „głupią” receptę. Uważa, że im ktoś jest mądrzejszy, tym bardziej potrzebuje zasad o wysokiej odporności, by powstrzymać się przed popadaniem w mentalną gimnastykę.

Po pierwsze, trzymać się „deontologii” (Deontological Ethics), czyli żelaznych zasad moralnych na poziomie przedszkola.

Nie rób skomplikowanych kalkulacji „dla przyszłości całej ludzkości”, wróć do najbardziej sztywnych zasad:

- Nie kradnij

- Nie zabijaj niewinnych

- Nie oszukuj

- Szanuj wolność innych

Te zasady mają bardzo wysoką odporność. Są czarno-białe, nie podlegają negocjacjom. Gdy próbujesz tłumaczyć sprzeniewierzenie środków użytkowników „longtermizmem”, ta sztywna zasada „nie kradnij” od razu cię obnaża: kradzież to kradzież, nie opowiadaj o wielkiej rewolucji finansowej.

Po drugie, zajmij właściwą „pozycję”, nawet fizyczną.

Jak mówi przysłowie, „gdzie siedzisz, tam myślisz”. Jeśli codziennie przebywasz w bańce San Francisco Bay Area, otoczony ludźmi promującymi AI-akceleracjonizm, trudno zachować trzeźwość. Vitalik nawet daje fizyczną radę o wysokiej odporności: nie mieszkaj w Bay Area.

5️⃣ Podsumowanie

Artykuł Vitalika to ostrzeżenie dla wybitnie inteligentnych elit: nie myśl, że możesz ominąć proste zasady moralne tylko dlatego, że jesteś mądrzejszy.

Teorie „galaktycznego mózgu”, które wydają się wyjaśniać wszystko, często są najniebezpieczniejszym uniwersalnym usprawiedliwieniem. Natomiast te sztywne, dogmatyczne zasady o „wysokiej odporności” są ostatnią linią obrony przed oszukiwaniem samego siebie.