Connecting Large Language Models with Evolutionary Algorithms Yields Powerful Prompt Optimizers
https://arxiv.org/pdf/2309.08532.pdf
Large Language Models as Optimizers
https://arxiv.org/abs/2309.03409
Improving prompt for document summarization using Chain of Density prompting
https://arxiv.org/pdf/2309.04269.pdf
Une alternative open source à Datadog et NewRelic pour l'observabilité et l'agrégation des logs.
L'utilisation de Protobuf se démocratise de plus en plus pour remplacer le JSON en tant que format d'échange de données.
Cela devrait être le choix par défaut pour toute communication inter-serveur.
Attention néanmoins dans les environnements JS la différence de performances n'est pas assurée donc pensez à benchmarker ;-)
Vercel a développé un super outil pour comparer les résultats des prompts entre plusieurs LLM!
Ils supportent quasiment tout, des modèles GPT à LlaMa 2 et même Claude 2.
Retour d'expérience sur le développement de Github Copilot et donc d'une véritable application LLM en prod depuis plusieurs années et avec un trafic conséquent
Un outil pour générer des composants frontend à partir de prompt
Un langage SQL-like pour manipuler des LLM
Stablitity AI se lance dans la génération d'audio.
Des musiques mais aussi des sons d'ambiance !
Un LLM open-source du niveau de Llama 2 qui obtient une vitesse d'inférence (génération de token) 15x supérieure!
Le piratage reste un des meilleur moyen d'assurer la pérennité des œuvres dans le temps.
Un service pour créer des clips vidéo facilement.
Ils proposent notamment de traduire dans n'importe quelle langue en gardant la même voix + le mouvement des lèvres
Un snake en 70 octets d'assembleur, jolie performance!
Un autre article qui résume bien les possibilités de Supabase.
Aussi, des retours de Ali de Tech.rocks:
So far les craintes soulevées :
Le système d’Auth semble extensible mais par exemple ne semble pas gérer de token CSRF out of the box (lorsque le client et le server sont sur le même host, les cookies transmettent le jwt à la place d’un authentification bearer). On est en train d’explorer le flux sur un host différent.
Le back-end est composé grosso-modo d’une base postgres dont les tables sont exposées via une API REST ou GraphQL et d’edge functions
-> cela nous pose la question de comment mettre en place une couche de service métier exposée via API correctement testée
-> pas encore 100% convaincu par rapport à une stack classique Serverless ou Nest
-> on va expérimenter les edge functions mais à trouver/confirmer encore la bonne architecture pour créer notre couche métier (si vous avez des pointeurs)
je suis comme toi, je ne souhaite pas mettre trop de logique métier dans le SQL car beaucoup plus difficilement testable automatiquement et unitairement ? d’autant plus quand l’équipe grandit ? (si vous avez des pistes également nous sommes preneur)
le côté admin wysiwyg est séduisant mais rarement utilisé dans un vrai env de dev. On est en train d’évaluer la développeur expérience avec un env de dev local tout ce qui est database migrations, type generation, testing pour avoir un workflow dev/preprod/prod correct.
Les choix architecturaux de back-end sur lesquels on hésite sont : soit backend-as-a-service comme supabase, construire l’ensemble du back 100% en serverless derrière une API gateway, utiliser une architecture plus classique comme Nest.js
Une question en suspens, est quelle serait la meilleure architecture de départ pour implémenter du realtime (basé sur des sockets) pour avoir du push vers le client lors de mise à jour dans la base ?Plusieurs article sur la manière de créer une timeline pour une application à fort trafic en utilisant Redis.
https://redis.io/docs/manual/patterns/twitter-clone/
https://livebook.manning.com/book/redis-in-action/chapter-8/
Retour d'expérience sur Supabase et quelques une de ses limitations
- pas de raw sql query "out of the box"
- définition de la DB en SQL vs avec un schéma à la Prisma
- couplage fort DB / frontend
- Système de droits ABAC (attributs based)
Bun est sorti en version 1.0 et ça s'annonce très prometteur.
Finit les prises de tête de l'écosystème Node.js, ça règle tous les problèmes de toolchain de run Typescript, de build en tout genre, de test runner, de module mjs/esm, de require vs import, de package manager en fournissant un seul outil qui just works
Même pas besoin de "risquer" une utilisation en prod, juste le fait de l'utiliser comme toolchain backend fait gagner en productivité.
Une solution pour utiliser Nest.js devant Supabase tout en conservant le système d'authentification de Supabase.
Un agent LLM dans le terminal qui peut contrôler votre ordinateur, executer du code, naviguer sur internet etc.
Supabase propose de faire des Edge Function pour la logique métier spécifique en Dart.
C'est cool car ça contribue à populariser l'utilisation de Dart pour le backend.
Un site qui résume les conditions d'utilisation de nombreux sites.