1253 shaares
1 result
tagged
state-space-model
Une méta-étude sur l'avancement de la recherche sur une architecture alternative à celle des Transformers.
State Space Model (SSM) est une architecture qui se veut plus économe en terme de puissance de calcul nécessaire pour l'entrainement et la génération.
Pour l'instant on en est toujours au début et rien de concrètement utilisable au vu des faibles performances mais c'est bien de garder un oeil la dessus pour le futur.