Buterin naciska na Info Finance, aby powstrzymać nadużycia w zarządzaniu AI
- Vitalik ostrzega, że naiwne zarządzanie AI jest podatne na manipulacje i nadużycia.
- Info finance tworzy różnorodność modeli i szybkie korekty, czyniąc zarządzanie AI bezpieczniejszym.
- Rynki predykcyjne i kontrole wyrywkowe pomagają zabezpieczyć podejmowanie decyzji i finansowanie AI.
Współzałożyciel Ethereum, Vitalik Buterin, ostrzegł, że naiwne modele zarządzania AI niosą poważne ryzyko i zaznaczył, że ramy polegające na AI w zakresie finansowania lub podejmowania decyzji pozostają podatne na manipulacje i nadużycia. Jego zdaniem takie systemy pozwalają złośliwym podmiotom przekierowywać zasoby, jednak opowiada się on za podejściem zwanym „info finance”, zaprojektowanym w celu budowania odpowiedzialności i zapobiegania nadużyciom poprzez rynki, nadzór ludzki i kontrole.
Argumenty przeciwko naiwnemu zarządzaniu AI
Buterin podkreślił, że naiwne zarządzanie AI jest ryzykowne i dodał, że jeśli AI będzie używane do alokacji środków, ludzie mogą je manipulować za pomocą wybranych przez siebie promptów i uzyskiwać nadmiarowe środki. Rozwinął, że jeśli modele działałyby bez żadnych ograniczeń lub wytycznych, mogłyby być niewłaściwie wykorzystywane, zachęcając hakerów do używania promptów i oszukiwania AI, by wydawała niewłaściwe zasoby.
Takie luki czynią AI potencjalnie niebezpieczną. Ponadto Buterin ujawnił systemowe słabości, które, jeśli pozostaną bez kontroli, mogą być manipulowane. Niewidoczne ataki, wstrzykiwanie promptów to przykłady, jak atakujący mogą łatwo wykorzystać system.
Info Finance jako alternatywa
Buterin wybiera information finance zamiast naiwnego zarządzania, opisując to jako podejście „projektowania instytucji”, łączące otwartą konkurencję rynkową z weryfikacją ludzką. Powiedział:
Jako alternatywę popieram podejście info finance, gdzie masz otwarty rynek, na którym każdy może zgłaszać swoje modele, które podlegają mechanizmowi kontroli wyrywkowej, uruchamianemu przez każdego i ocenianemu przez ludzkie jury.
Wyjaśnił, że Info Finance pozwala zewnętrznym współtwórcom integrować duże modele językowe (LLM) bez twardego kodowania jednego systemu. To umożliwia różnorodność modeli, zmniejszając ryzyko szeroko zakrojonych awarii. Tworzy to także bodźce dla deweloperów i spekulantów do uważnego obserwowania błędów i szybkiego reagowania na problemy.
Jednym z proponowanych mechanizmów są rynki predykcyjne lub rynki decyzyjne. Wiele modeli konkurowałoby ze sobą, a uczestnicy mogliby stawiać na wyniki, sygnalizując, które modele wydają się najbardziej wiarygodne. Ludzkie jury lub audytorzy okresowo sprawdzaliby wyniki, szczególnie w przypadkach o wysokiej stawce.
Powiązane: ETH Treasuries Surge to $12B as Vitalik Warns of Leverage Risks
Implikacje dla kryptowalut i rynków
Info finance opiera się na wielopoziomowej odpowiedzialności i jest szczególnie widoczne w otwartej konkurencji, która pozwala kwestionować lub zastępować wadliwe modele. Nadzór ludzki jest dodawany poprzez jury i audyty. Bodźce ekonomiczne uniemożliwiają manipulacje, a przejrzystość sprawia, że złośliwe działania są widoczne.
Łącząc zarządzanie AI z blockchainem i handlem, Buterin sugeruje, że wady scentralizowanego AI mogą zwiększyć zainteresowanie zdecentralizowanymi rozwiązaniami, głównie opartymi na Ethereum. Ponadto tokeny takie jak RNDR Render Network i GRT The Graph zapewniają infrastrukturę dla obliczeń AI, czerpiąc korzyści z rozwoju. Dodatkowo, traderzy mogą również wykorzystywać ETH i te tokeny do arbitrażu w warunkach zmienności rynku.
Dane on-chain wskazują, że coraz więcej transakcji ETH jest powiązanych z inteligentnymi kontraktami związanymi z AI, a kwestie zarządzania AI mogą wpływać także na akcje technologiczne, przy czym firmy takie jak NVIDIA i Microsoft są zaangażowane w inwestycje AI. Ogólnie rzecz biorąc, Buterin zauważył, że Info Finance pozwala na szybsze korekty, zastępując wadliwe modele i karząc sprawców nadużyć. Dodał również, że kontrole jury i wyrywkowe zapobiegną rozprzestrzenianiu się nadużyć.
The post Buterin Pushes Info Finance to Stop Exploits in AI Governance appeared first on Cryptotale.
Zastrzeżenie: Treść tego artykułu odzwierciedla wyłącznie opinię autora i nie reprezentuje platformy w żadnym charakterze. Niniejszy artykuł nie ma służyć jako punkt odniesienia przy podejmowaniu decyzji inwestycyjnych.
Może Ci się również spodobać
Gorączka AI przekształca układ rynku produkcji półprzewodników! UBS: Wybuch popytu napędza przyspieszenie rozbudowy zaawansowanych procesów, dojrzałe technologie wchodzą w okres wzrostu
Według najnowszego raportu badawczego opublikowanego przez UBS, na rynku produkcji chipów półprzewodnikowych, potencjalny rynek dla technologii N2 (2 nanometry) jest znacznie większy niż przewidywano, przyspiesza ekspansja A14 (1,4 nanometra), a cykl wzrostowy dla dojrzałych procesów technologicznych już się rozpoczął.
Składany ekran iPhone za 1999 dolarów jest gotowy do premiery, ale Apple (AAPL.US) otrzymało ponad 5,7 miliarda dolarów kary za naruszenie patentów
Podczas gdy Apple zwiększa inwestycje w technologie składanych ekranów i sztucznej inteligencji, firma stoi w obliczu decyzji sądu dotyczącej odszkodowania za patenty dotyczące technologii haptycznej przekraczającej 5,7 miliarda dolarów. 25 września federalna ława przysięgłych w Kalifornii uznała, że Taptic Engine używany w niektórych modelach iPhone oraz Apple Watch narusza dwa patenty należące do Taction Technology.
Perspektywy otwarcia cieśniny Hormuz ponownie pod znakiem zapytania, azjatyckie obligacje pod presją: rentowność 2-letnich japońskich obligacji zbliża się do 2%, rentowność 3-letnich koreańskich obligacji rośnie do najwyższego poziomu od 2022 roku
Ceny ropy są wysokie, a rentowności krótkoterminowych obligacji Korei Południowej i Japonii rosną.
5% presja obligacji USA na globalne aktywa, a australijskie obligacje otwierają okno do inwestycji? Gigant rynku obligacji Pimco uważa, że oczekiwania dotyczące podwyżek stóp są zbyt agresywne
Pacific Investment Management Company (Pimco) ma pozytywne nastawienie wobec australijskich obligacji, uważając, że oczekiwania rynku dotyczące podwyżek stóp procentowych są zbyt wysokie. Pimco twierdzi, że cykl podwyżek stóp procentowych w Australii jest już „w pełni wyceniony”, a w gospodarce zaczynają pojawiać się oznaki osłabienia, co sprawia, że australijskie obligacje wydają się atrakcyjne, zwłaszcza w segmencie 5-10 lat na krzywej dochodowości.
Ceny krypto
Więcej
