Meta představila nový model umělé inteligence Muse Spark Open, který označuje za nejvýkonnější americký model. Zajímavostí je především jeho spolupráce s Applem. Model byl optimalizován pro Mac Studio a k jeho spuštění má stačit sestava dvou těchto zařízení s čipy M5 Ultra a operační pamětí o kapacitě 512 GB na každém z nich.
Spolupráce obou technologických gigantů je poměrně překvapivá. Apple a Meta se v minulosti často střetávaly v otázkách ochrany soukromí, pravidel App Storu i fungování svých služeb. Tentokrát ale spojily síly při zpřístupnění pokročilé umělé inteligence, kterou si uživatelé mohou provozovat na vlastním hardwaru. Nový model Muse Spark Open má celkem 816 miliard parametrů, přičemž při generování odpovědí aktivně využívá 42 miliard parametrů. Podporuje také kontextové okno o velikosti jednoho milionu tokenů, což mu umožňuje pracovat s rozsáhlým množstvím informací v rámci jednoho zadání.
Meta model navrhla pro náročné úlohy, mezi které patří programování, softwarové inženýrství, vícekrokové uvažování a práce s autonomními AI agenty. Právě při složitějších úlohách, které vyžadují plánování a provádění několika navazujících kroků, mají být jeho schopnosti obzvlášť užitečné. Provoz takto rozsáhlého modelu však vyžaduje značnou kapacitu paměti. Meta proto spolupracovala s Applem na optimalizaci pro sestavu dvou Maců Studio s čipy M5 Ultra. Každý z nich má disponovat 512 GB jednotné paměti, takže dohromady nabídnou celkem 1 TB. Model tak může být uložen v paměti této sestavy a využívat výpočetní prostředky obou počítačů.
Proč je jednotná paměť Applu tak důležitá?
Klíčovou roli hraje architektura jednotné paměti, kterou Apple používá ve svých vlastních čipech. Procesor a grafická část mohou sdílet stejný paměťový prostor, což je při provozu velkých jazykových modelů zásadní výhoda. U tradičních počítačů s oddělenou operační a grafickou pamětí může být provoz rozsáhlých modelů komplikovanější. Kapacita paměti grafické karty totiž často omezuje velikost modelu, který lze efektivně spustit přímo na zařízení. Podle Mety může integrovaná grafická část čipu M5 Ultra využívat až 512 GB jednotné paměti v jednom Macu Studio. Propustnost paměti má dosahovat 1,2 TB/s, což umožňuje rychle načítat potřebná data při generování jednotlivých tokenů. Meta popisuje výslednou sestavu jako dva počítače, které společně fungují podobně jako jeden superpočítač s terabajtem jednotné paměti. To ovšem neznamená, že by se dva Macy Studio automaticky spojily do jediného počítače. Provoz modelu napříč oběma zařízeními vyžaduje odpovídající softwarovou podporu a optimalizaci. V tomto případě Meta využívá framework MLX, který je určený pro strojové učení na zařízení Apple.
Zuckerberg poděkoval Applu. Spolupráce překvapila i vedení Mety
Spolupráci potvrdil také generální ředitel Mety Mark Zuckerberg, který poděkoval generálnímu řediteli Applu Johnu Ternusovi za společnou práci na podpoře modelu pro Mac. Zajímavý komentář přidal také Alexandr Wang, šéf AI divize Mety. V rozhovoru pro Axios s nadsázkou poznamenal, že je rád, že spolu „máma a táta zase vycházejí“. Jeho slova odkazují na dlouhodobě komplikované vztahy mezi Applem a Metou. Obě společnosti se v minulosti střetávaly například kvůli ochraně soukromí, reklamnímu byznysu a pravidlům distribuce aplikací. Společný projekt ale ukazuje, že v oblasti umělé inteligence mohou najít společné zájmy i společnosti, které si jinak výrazně konkurují.
