ServicenavigationHauptnavigationTrailKarteikarten

Forschungsstelle
INNOSUISSE
Projektnummer
129.586 INNO-ICT
Projekttitel
Accelerating ML via Computational Storage
Projekttitel Englisch
Accelerating ML via Computational Storage

Texte zu diesem Projekt
 DeutschFranzösischItalienischEnglisch
Schlüsselwörter
-
-
-
Anzeigen
Abstract
-
-
-
Anzeigen

Erfasste Texte


KategorieText
Schlüsselwörter
(Englisch)
ICT, Machine learning
Abstract
(Englisch)
GPUs excel in ML but have limited HBM memory, restricting model sizes. Our devices enhance GPU memory by swiftly paging model weights, freeing up HBM for larger models or extended context in LLMs. We aim to boost our prototype's bandwidth by experimenting with faster and larger memories.