Itinulak ni Buterin ang Info Finance na Itigil ang mga Pagsasamantala sa AI Governance
- Binalaan ni Vitalik na ang simpleng AI governance ay madaling manipulahin at abusuhin.
- Ang info finance ay lumilikha ng pagkakaiba-iba ng modelo at mabilis na pagwawasto, na ginagawang mas ligtas ang AI governance.
- Ang prediction markets at spot checks ay tumutulong sa pag-secure ng AI decision-making at pondo.
Binalaan ng Ethereum co-founder na si Vitalik Buterin na ang mga simpleng modelo ng AI governance ay nagdadala ng seryosong panganib at nagbabala na ang mga framework na umaasa sa AI para sa pagpopondo o paggawa ng desisyon ay nananatiling madaling manipulahin at abusuhin. Sa kanyang pananaw, pinapayagan ng ganitong mga sistema ang masasamang aktor na ilihis ang mga resources, ngunit isinusulong niya ang isang pamamaraan na tinatawag na “info finance,” na idinisenyo upang bumuo ng accountability at pigilan ang maling paggamit sa pamamagitan ng mga merkado, human oversight, at mga pagsusuri.
Ang Kaso Laban sa Simpleng AI Governance
Binigyang-diin ni Buterin na mapanganib ang simpleng AI governance at idinagdag na kung gagamitin ang AI sa paglalaan ng pondo, maaaring manipulahin ito ng mga tao gamit ang kanilang napiling prompts at makakuha ng labis na pera. Dagdag pa niya, kung gagana ang mga modelo nang walang anumang limitasyon o gabay, maaari itong abusuhin, kaya hinihikayat ang mga hacker na gumamit ng prompts at lokohin ang AI upang maglabas ng maling resources.
Ang ganitong mga kahinaan ay naglalagay sa AI sa isang potensyal na mapanganib na loophole. Dagdag pa rito, ibinunyag ni Buterin ang mga sistemikong kahinaan na, kung hindi matutugunan, ay maaaring manipulahin. Ang mga hindi nakikitang atake, prompt injections ay mga halimbawa kung paano madaling mapagsamantalahan ng mga attacker.
Info Finance Bilang Alternatibo
Pinipili ni Buterin ang information finance kapalit ng simpleng governance, na inilalarawan niya bilang isang “institution design” approach, na pinagsasama ang open market competition at human verification. Sinabi niya,
Bilang alternatibo, sinusuportahan ko ang info finance approach, kung saan mayroong open market na kahit sino ay maaaring mag-ambag ng kanilang mga modelo, na isinasailalim sa spot-check mechanism na maaaring i-trigger ng kahit sino at susuriin ng human jury.
Ipinaliwanag niya na pinapayagan ng Info Finance ang mga panlabas na contributor na mag-integrate ng large language models (LLMs) nang hindi kinakailangang mag-hardcode ng isang sistema. Magbibigay ito ng pagkakaiba-iba ng modelo, kaya nababawasan ang tsansa ng malawakang pagkabigo. Lumilikha rin ito ng mga insentibo para sa mga developer at speculator na masusing magbantay para sa mga depekto at mabilis na kumilos kapag may problema.
Isa sa mga iminungkahing mekanismo ay ang paggamit ng prediction markets o decision markets. Maraming modelo ang magkokompitensya, at maaaring mag-stake ang mga kalahok sa mga resulta, na nagpapahiwatig kung aling mga modelo ang tila pinaka-maaasahan. Ang mga human jury o auditor ay paminsang magsasagawa ng spot-check sa mga resulta, lalo na sa mga high-stakes na kaso.
Kaugnay: ETH Treasuries Tumaas sa $12B Habang Nagbabala si Vitalik sa Leverage Risks
Implikasyon para sa Crypto at Mga Merkado
Ang info finance ay umaasa sa layered accountability, at kapansin-pansin ito sa open competition, na nagpapahintulot na hamunin o palitan ang mga maling modelo. Idinadagdag ang human oversight sa pamamagitan ng mga jury at audit. Ang mga insentibong pang-ekonomiya ay pumipigil sa manipulasyon, habang ang transparency ay nagpapakita ng masasamang gawain.
Sa pamamagitan ng pag-uugnay ng AI governance sa blockchain at trading, iminungkahi ni Buterin na ang mga depekto sa centralized AI ay maaaring magpataas ng interes sa decentralized solutions, na karamihan ay binuo sa Ethereum. Bukod dito, ang mga token tulad ng Render Network’s RNDR at The Graph’s GRT ay nagbibigay ng imprastraktura para sa AI computations, kaya nakikinabang sa pag-unlad. Dagdag pa, maaaring gamitin ng mga trader ang ETH at ang mga token para sa arbitrage sa gitna ng volatility ng merkado.
Ipinapakita ng on-chain data na mas maraming ETH transactions ang nauugnay sa AI-related smart contracts at ang mga isyu sa AI governance ay maaaring makaapekto rin sa tech stocks, kasama ang mga kumpanya tulad ng NVIDIA at Microsoft na kasali sa AI investments. Sa kabuuan, itinuro ni Buterin na pinapayagan ng Info Finance ang mas mabilis na pagwawasto, kaya napapalitan ang mga maling modelo at napaparusahan ang mga lumalabag. Idinagdag din niya na ang jury checks at spot checks ay pipigil sa pagkalat ng exploitation.
Ang post na Buterin Pushes Info Finance to Stop Exploits in AI Governance ay unang lumabas sa Cryptotale.
Disclaimer: Ang nilalaman ng artikulong ito ay sumasalamin lamang sa opinyon ng author at hindi kumakatawan sa platform sa anumang kapasidad. Ang artikulong ito ay hindi nilayon na magsilbi bilang isang sanggunian para sa paggawa ng mga desisyon sa investment.
Baka magustuhan mo rin
Tinanggihan ni Trump ang alok ng Iran para sa pag-uusap; pandaigdigang stock at bond bumaba, presyo ng langis tumaas ng higit 2%, at ginto bumaba sa ilalim ng 4200
Tinanggihan ni Trump ang pinakabagong alok ng Iran na muling buksan ang Strait of Hormuz, na nagdulot ng biglaang pagbabago sa optimismo ng merkado noong Biyernes dahil sa patuloy na diplomatikong pagkakabalaho sa Gitnang Silangan. Tumaas ng higit sa 2% ang Brent crude oil, bumagsak ang presyo ng ginto sa ibaba ng $4200, at bumaba ng mahigit 4% ang silver; bumagsak din ang mga stock market sa Asia-Pacific, kung saan bumaba ng higit sa 2% ang Korea KOSPI; napailalim sa presyon ang pandaigdigang merkado ng mga bonds, at umakyat sa 4.90% ang yield ng US 2-year Treasury bonds. Ang pokus ng merkado ay lilipat ngayon sa linggong ito patungkol sa datos ng PCE inflation at ulat sa non-farm employment.
Ang pangangailangan ng AI ay nagtutulak sa TSMC na pabilisin ang pagpapalawak ng produksyon, ang buwanang kapasidad ng 2-nanometer ay magtatangkang umabot sa 120,000 wafers sa katapusan ng taon
Ayon sa ulat, ang mga higante tulad ng Apple, Nvidia, at AMD ay sama-samang nagdagdag ng orders ng 10% hanggang 20%, na direktang nagtulak sa buwanang produksyon ng TSMC ng 2nm na umabot sa 120,000 wafers sa pagtatapos ng taon, lampas ng mahigit 20% kumpara sa orihinal na pagtatantya, at naabot nang mas maaga ng dalawang taon ang target para sa 2027. Limang pabrika ang sabay-sabay na magpapalawak ng produksyon, na kauna-unahan sa kasaysayan, at mula 2026 hanggang 2028, tinatayang aabot sa 70% ang taunang compound growth rate ng kapasidad.
Ang patuloy na pagbebenta ng long-term na mga government bonds ay nagaganap pa rin! Ang 10-taong US Treasury yield ay muling lumampas sa 5.2%, ang naratibo ng “pagputok ng mga AI agent VS pagtaas ng gastos sa financing” ay lalo pang sumusidhi
Noong Lunes, dahil sa pagtanggi ni Pangulong Donald Trump ng Estados Unidos sa pinakabagong alok ng Iran na muling buksan ang Strait of Hormuz, tumindi ang pag-aalala tungkol sa implasyon, tumaas ang presyo ng langis, at muling ibinenta ang US Treasury bonds.
Kumikita ang mga bangko sa nakatiwangwang na pondo sa loob ng maraming taon, babaguhin ba ito ng AI intelligent agents?
Sa loob ng maraming taon, kumikita ang mga bangko mula sa hindi nagagalaw na pondo ng kanilang mga kliyente, ngunit maaaring baguhin ito ng mga AI agent.
Mga presyo ng crypto
Higit pa
