CoALA propose une méthode d'organisation des Assistants basée sur les sciences cognitives et notamment les différents types de mémoire à long terme:

• procédural: instructions générales de fonctionnement (les poids initiaux du LLM et le code métier de l'Assistant)
• sémantique: une base de connaissances
• épisodique: les actions passées

La mémoire à court terme (aussi appelée mémoire de travail) est elle représentée par le contenu du prompt utilisé pour répondre.

Ils décrivent notamment des actions internes qui devraient réaliser le LLM pour intéragir avec sa mémoire:

• retrieval: lire dans la mémoire long terme
• reasoning: mettre à jour la mémoire court terme de travail (le prompt)
• learning: écrire dans la mémoire long terme

On retrouve des idées utilisées par Generative Agents