Un article qui propose d'intégrer des publicités dans les réponses des LLMs.

Par exemple, si vous recherchez un livre de science fiction similaire à un que vous avez aimé, le LLM vous proposera un nouveau livre ainsi qu'un lien vers un site de vente de ligne pour l'acheter.

Le système utiliserait un système type RAG pour intégrer des instructions spécifiques de publicité dans la réponse du LLM.

Autant ce genre de système pourrait apparaitre dans les applications finales comme ChatGPT, autant cela parait difficile de faire utiliser une API incluant de la publicité à un client qui intègre de la GenAI dans son produit.

Je serais assez frileux d'utiliser ce système, même si l'API était gratuite car cela introduit encore plus imprédictibilité des résultats à cause de l'injection d'instructions potentiellement différentes à chaque utilisation.

Pour des cas d'usage très simple cela serait moins problématique mais dans des workflows LLM un peu complexe cela peut avoir des effets très dur à contrôler.