Les performances de GPT-4 seraient dégradées depuis Mars.

OpenAI procède à des changements silencieux sur les algorithmes disponibles via ses API et la précision de GPT4 aurait été fortement dégradée entre mars et juin.

Une des explications potentielle serait l'utilisation de "sous modèles" GPT4 entrainés pour des tâches spécifiques avec un dispatching. Tout ça pour réduire les coûts de fonctionnement.

Une liste des niveaux d'ingénieurs dans plusieurs boites.

Des chercheurs ont réussi à avoir de meilleurs résultats que BERT et son réseau de neurones sur des tâches de classification de texte avec un classifieur très simple utilisant l'algorithme de compression gzip!

Llama 2 est sorti et Meta l'a rendu disponible en Open Source avec utilisation commerciale.

La licence n'est pas full open source comme pourrait l'être une Apache 2.0

• interdiction d'utiliser Llama pour améliorer d'autres modèles
• licence spécial à demander à Meta après 700 millions d'utilisateurs

Disponible chez Huggingface!

(L'article présente aussi un comparatif des modèles open source)