Najszybciej rozwijająca się aplikacja AI od czasu ChatGPT

Meta’s Muse to najszybciej rosnąca aplikacja AI od czasu ChatGPT — za tym wydaniem produktu kryje się wydarzenie związane z zapotrzebowaniem na moc obliczeniową. W ciągu 12 dni liczba pobrań osiągnęła 2,8 miliona, podczas gdy ChatGPT w tym samym okresie miało 1,3 miliona. Liczba dziennie aktywnych użytkowników sięgnęła 642 tysięcy, podczas gdy dla ChatGPT było to 231 tysięcy. Aplikacja zajmuje pierwsze miejsce w obu głównych sklepach z aplikacjami. Pewnego dnia doprowadziła do wzrostu wartości rynkowej Meta o 192 miliardy dolarów.Rynek przeoczył jeden fakt: każdy użytkownik Muse otrzymuje bezpłatnie własny komputer w chmurze — działającą nieprzerwanie maszynę wirtualną Ubuntu, system plików z uprawnieniami root oraz wydzieloną pamięć masową. Chatbot wynajmuje ci token, agent wynajmuje ci maszynę. Niezależnie od tego, czy akurat wpisujesz dane, maszyna zawsze potrzebuje pamięci operacyjnej i miejsca na dane.Według mojej metody obliczeń: na każdego użytkownika przypadają 2 vCPU (AMD) + 8 GB RAM (Micron, SK Hynix) + 100 GB SSD (SanDisk). Gdy liczba użytkowników osiągnęła 3,4 miliona, odpowiadało to 27 PB pamięci DRAM i 340 PB pamięci NAND. Meta może przeprowadzić akcję cross-promocyjną wobec 3,6 miliarda ludzi. Gdy użytkowników będzie już 100 milionów, odpowiadać to będzie 800 PB pamięci DRAM i 10 EB pamięci flash.Skala zapotrzebowania na pamięć przez obciążenia generowane przez agentów AI jest większa niż podczas tradycyjnych zadań związanych ze szkoleniem modeli. Każdy agent, który przechowuje twoją skrzynkę odbiorczą, kalendarz i koszyk zakupowy w kontekście, to obliczenia stale rezydujące w pamięci, działające przez całą dobę.