Une autre méthode pour améliorer un RAG.

Ici après une première récupération et injection de documents, on va utiliser chaque phrase du LLM pour récupérer de nouveaux documents potentiels à ingérer lors de la génération.

Cela permet d'aller récupérer et injecter d'autres concepts qui ressortent lors des phases de restitution du LLM.

Un modèle d'embeddings de chez Google qui est plus petit que celui de OpenAI donc beaucoup moins cher et utilisable même côté client uniquement (web, mobile)

ça permet de faire de la recherche par similarité mais aussi un classifier.

https://google-research.github.io/retvec/emotion_demo

Les Agents qui jouent à Minecraft sont parmi les projets les plus avancés en terme de LLMs.

Typiquement ici l'Agent est capable d'écrire du code pour réaliser différentes actions mais aussi de faire évoluer le code écrit en fonction du feedback du monde ("il manque 2 bois pour faire une hache") ou des erreurs de programmation.

Un outil d'observabilité pour LLM qui s'intègre quasiment automatiquement aux SDK OpenAI et Langchain.

Volet évaluation des performances

• Evaluation manuelle d'une chaine de prompt dans Langfuse
• Feedback utilisateur (explicite et implicite)
• On peut même évaluer auto avec GPT-4 et intégrer ce résultat

Volet R&D

• Création de datasets d'évaluation (évaluation manuelle dans Langfuse ou avec un Agent GPT-4)
• Versioning des traces collectées pour évaluation et A/B testing

Volet observabilité

• Analytics générales (coût, latence)
• Possibilité de suivre toutes les intéractions liées à une action métier

Bref, ça fait le café et en plus ils sont dispo en SaaS et en Open Source.

Une lib frontend pour avoir le Largest Content Paint et le First Content Paint des pages d'un site web.

HyDE est une méthode pour améliorer la recherche d'un RAG.

Concrètement on prend la demande d'origine et on va générer plusieurs documents à partir de cette demande.

Ces documents vont avoir des champs sémantiques différents pour espérer retrouver un nombre plus importants de documents.

Par exemple, avec la demande suivante "Est-il possible d'ajouter un module de formation obligatoire à un utilisateur?"

Si on a 3 sources de données avec des profils rédacteurs différents alors on va demander à GPT de générer des réponses imaginaires:

• Github: "écrit une réponse hypothétique à cette demande du point de vue d'un développeur"
• Notion: "écrit une réponse hypothétique à cette demande du point de vue d'un Product Owner"

Un excellent article sur la manière de conduire un refactor sur le long terme.

Une méthode de prompt engineering pour améliorer la qualité des réponses.

C'est une utilisation un peu plus avancée d'une chaine de prompt avec une critique et une réponse à la critique générés par le LLM

La vidéo se développe de plus en plus avec tout ce qu'on retrouve dans la génération d'image mais en vidéo:

• upscaling (19:9 => 4:3)
• inpainting
• generation

Un autre outil en NoCode pour faire des applications à base de LLM.

C'est testable en live chez HuggingFace: https://huggingface.co/spaces/Logspace/Langflow

Des algorithmes de machine learning utilisés pour fliquer les allocataires de la CAF et déclencher des contrôles chez les personnes "à risque"

Une belle dérive de la société de surveillance algorithmique.

On se retrouve notamment avec un algorithme qui cible les personnes en situation de handicape entre autre

Une méthode pour évaluer les performances des Agents LLM.

Pour chaque tâche, l'Agent doit utiliser un ou plusieurs outils comme un navigateur web, de l'exécution de code, une API custom, etc.

Les tâches sont réparties en 3 niveaux:

• Niveau 1: entre 0 et 1 outil nécessaire, maximum 5 étapes
• Niveau 2: entre 5 et 10 outils, plus de 5 étapes
• Niveau 3: grand nombre d'outils et beaucoup d'étapes

Ils ont évalué GPT-4, AutoGPT et GPT-4 avec plugins et aucun n'arrive à réaliser des tâches de niveau 3

Quand faut-il laisser un commentaire à l'intérieur du code?

• un besoin business incongru (expliquez l'histoire originel)
• cela a demandé des recherches (partagez des liens)
• plusieurs options étaient considérées (justifiez)
• question dans une revue de code

Zappier propose quasiment toutes ses intégrations sous la forme d'outils LLM en langage naturel.

Ça permet à un Agent d'interagir avec des milliers de services directement via Zappier.

Très bon récapitulatif de Gee sur ce qu'est la grosse blague de la taxe sur la copie privée.

Depuis 2021 elle s'est carrément étendue au smartphones reconditionnés.

Des leaks de prompt, il y a ceux d'OpenAI mais aussi ceux des assistants GPT.

La plupart des prompts peuvent être leak via la technique de la grand mère https://news.ycombinator.com/item?id=35630801

Un site qui recense les bons jeux pour Android

Un article qui parle des comportements difficiles à prévoir lorsqu'on fait un JOIN sur autre chose qu'une égalité d'ID en SQL