Excellent article qui expliquer le fonctionnement des LLMs
Un guide sur le fonctionnement d'un CPU
Un article explicatif du besoin et du fonctionnement du load balancing.
Très bien expliqué et avec des schéma intéractifs!
Pour bien comprendre les besoins, il ne faut pas oublié que les requêtes ne sont pas égales, certaines sont plus longues ou plus consommatrices que d'autre à exécuter.
Au dela du "simple" round robin, d'autres stratégies existent:
- least connection: le load balancer envoie la requête au serveur en ayant le moins en cours
- peak exponentially weighted moving average: calcul de la latence moyenne des serveurs et tente d'utiliser uniquement les serveurs ayant la plus faible latence
Une autre vidéo de Science Étonnante pour comprendre le fonctionnement des LLM (Large Language Model) comme GPT et leur spécialisation dans des outils comme ChatGPT.
Voir aussi Comment les I.A. font-elles pour comprendre notre langue ?
Explication très clair du fonctionnement des modèles Transformer de type GPT.
Une vidéo explicative sur la méthode utilisée par les réseaux de neurones pour comprendre le langage.
Chaque mot est représenté par un vecteur à N dimensions (plusieurs centaines) et cela permet notamment d'intégrer la notion de mots similaires en terme de sens.
On utilise ensuite des réseaux récurrents pour comprendre le sens d'une phrase dans les tâches de classifications ou de traduction.
Pour les tâches de génération, la notion de mémoire est importante et d'autres types de réseaux peuvent être utilisés (LSTM ou GRU).
Mais c'est une nouvelle architecture appellée Transformer qui est utilisé par les modèles récents comme GPT.
Une vidéo extrèmement intéressante sur l'état d'esprit des personnes travaillant dans la finance (principalement la City de Londres)
C'est un résumé du travail d'un anthropologue qui a étudié les millieux financiers londoniens.
Il classe les gens qu'il a interviewé (+200) en 6 catégories:
- teeth shaker: ceux qui ont peur de perdre leur travail et leur niveau de vie, donc ils ferment les yeux sur ce qui ne va pas
- neutral: ceux qui voient les failles et les contrebalancent avec des bons côtés ou les évitent
- master of the universe: ceux qui considèrent que l'état des choses est normal car ils le méritent
- blinker: ceux qui se donnent à fond, s'oublient/s'isolent complètement dans leur travail et sont complètement deconnecté du reste du monde
- delirium: comme les blinkers mais avec des signes d'addictions (clairement les témoignages les plus dérangeants..)
- cold fish: ceux pour qui tout est transaction sans aucune considération éthique ou morale
Explication sur les différents systèmes de gestion des permissions pour une application.
Role Based Access Control (RBAC)
Définition d'un ensemble de rôle ayant le droit d'exécuter des actions sur l'application puis attribution de ces rôles à des utilisateurs.
Exemple: le rôle device-manager permet de créer les Devices d'une plateforme IoT
Access Control List (ACL)
Définition de listes de permissions rattachées à chaque entitée de l'application. Une permission définie les actions possible sur l'entitée correspondante pour un utilisateur ou un groupe d'utilisateur.
Exemple: l'ACL rattaché au Device abc123 donne le droit à l'utilisateur aschen de le modifier
Attribute Based Access Control (ABAC)
Définition des permissions en fonction des attributs des entités. Les permissions sont accordées à des utilisateurs ou groupes d'utilisateurs en fonction des valeurs de ces attributs.
Exemple: une règle ABAC autorise la lecture des informations d'un Device uniquement si l'attribut creator du Device est égal à l'identifiant unique d'un utilisateur
Excellent article qui résume la complexité sous jacente du développement frontend face à une demande "simple"