Sandisk a SK Hynix navrhujú flash pamäť s vysokou šírkou pásma na spracovanie rozsiahlejších modelov AI. Flash pamäť s vysokou šírkou pásma by mohla uchovávať oveľa viac dát ako HBM založená na DRAM pre pracovné zaťaženia AI. Úspora energie vďaka netěkavosti NAND by mohla zmeniť stratégie chladenia dátových centier AI.
Sandisk a SK Hynix podpísali dohodu o vývoji pamäťovej technológie, ktorá by mohla zmeniť spôsob, akým akcelerátory AI spracovávajú dáta vo veľkom meradle.
Cieľom spoločností je štandardizovať „High Bandwidth Flash“ (HBF), alternatívu založenú na NAND-e k tradičnej pamäti s vysokou šírkou pásma používanej v AI GPU.
Koncept stavia na dizajnoch balenia podobných HBM, pričom nahrádza časť DRAM stacku flash pamäťou, čím vymieňa časť latencie za výrazne zvýšenú kapacitu a netěkavosť.
Použitie AI pamäťových stackov na spracovanie rozsiahlejších modelov pri nižších nárokoch na energiu.
Tento prístup umožňuje HBF poskytovať osem až šestnásťnásobok úložného priestoru DRAM-based HBM pri približne podobných nákladoch.
Schopnosť NAND uchovávať dáta bez nepretržitého napájania prináša aj potenciálnu úsporu energie, čo je čoraz dôležitejší faktor, keďže inferencia AI expanduje do prostredí s prísnymi limitmi energie a chladenia.
Pre prevádzkovateľov hyperscale služieb prevádzkujúcich rozsiahle modely by táto zmena mohla pomôcť vyriešiť tepelné a rozpočtové obmedzenia, ktoré už zaťažujú prevádzku dátových centier.
Tento plán je v súlade s výskumným konceptom s názvom „LLM in a Flash“, ktorý načrtol, ako by rozsiahle jazykové modely mohli bežať efektívnejšie zahrnutím SSD diskov ako ďalšej vrstvy, čím by sa znížil tlak na DRAM.
HBF v podstate integruje túto logiku do jedného vysokopriepustného balíka, potenciálne kombinujúc rozsah úložiska najväčšieho SSD s profilom rýchlosti potrebným pre pracovné zaťaženia AI.
Sandisk predstavil svoj prototyp HBF na Flash Memory Summit 2025 s použitím proprietárnej BiCS NAND a techník spájania plátkov.
Vzorky modulov sa očakávajú v druhej polovici roku 2026, pričom prvý hardvér AI využívajúci HBF sa predpokladá začiatkom roku 2027.
Žiadne špecifické produktové partnerstvá neboli zverejnené, ale pozícia spoločnosti SK Hynix ako hlavného dodávateľa pamätí pre popredných výrobcov AI čipov, vrátane Nvidie, by mohla urýchliť prijatie po finalizácii štandardov.
Tento krok prichádza aj v čase, keď iní výrobcovia skúmajú podobné nápady.
Samsung oznámil flash-podporované AI úložné vrstvy a pokračuje vo vývoji HBM4 DRAM, zatiaľ čo spoločnosti ako Nvidia zostávajú oddané dizajnom s vysokým obsahom DRAM.
Ak bude spolupráca spoločností Sandisk a SK Hynix úspešná, mohla by vytvoriť heterogénne pamäťové stacky, v ktorých budú existovať DRAM, flash a iné typy permanentného úložiska.
