Une autre vidéo de Science Étonnante pour comprendre le fonctionnement des LLM (Large Language Model) comme GPT et leur spécialisation dans des outils comme ChatGPT.
Voir aussi Comment les I.A. font-elles pour comprendre notre langue ?
Auto-GPT utilise un LLM et est capable de:
- récupérer des informations sur internet
- conserver des informations en mémoire
- générer sa propre liste de tâche pour répondre à une question
Ça permet d'avoir des agents capable d'améliorer leurs réponses et de réfléchir à des tâches plus complexes.
Pleins d'exemples ici https://twitter.com/NathanLands/status/1646101184384573446?s=20
Attention car OpenAI conserve toutes vos données et pourrait les ressortir dans d'autres conversations!
GPT-4 commence à être rendu disponible sur liste d'attente.
Ils ont fait passé des examens non corrigés sur une vingtaine de sujets et GPT-4 a obtenu la moyenne dans 12 sujets sur 26!
Une autre nouveauté, GPT-4 peut aussi accepter les images en complément du texte.
Des modèles concurrents de GPT-3 commencent à émerger.
Celui-ci est même capable de tourner sur un téléphone (26sec/token) ou un raspberry pi! (ça sera très lent)
Il est intéressant de voir qu'ils ont pu fine-tune le modèle pour un coup assez bas, 600$ (de cloud j'imagine)
À noter, ce modèle n'est pas utilisable sous licence commerciale.
Les nouvelles API de OpenAI sont disponibles.
Notamment celle de ChatGPT (gpt-3.5) avec un coût par token 10x inférieur!
Whisper est une quand à elle une API de text to speech
Des outils pour détecter si un texte a été généré par une IA du style de GPT-X
Une méthode pour repérer les textes écrits avec ChatGPT ou GPT-3.
Le principe est de forcer l'algorithme à choisir certains synonymes plutôt que d'autres lors de la génération de phrases.
Ça permettrait d'identifier les textes générés par une IA.
Après on verra sûrement apparaître des IA pour enlever le watermark, bref encore un jeu sans fin du chat et de la souris.
Une solution qui se targue de détecter l'usage de GPT-3 et ChatGPT.
J'ai pas réussi à essayer la version gratuite sur leur site.
En tout cas c'était à prévoir, et maintenant ça va être l'éternel jeu du chat et de la souris car il suffira aux algorithme d'IA de s'adapter aux algorithme de détection etc
HTTPie ont lancé un assistant IA pour intéragir avec les API.
En gros on tape un prompt en langage naturel et ça génère la bonne requête
Fetch last release details of httpie/desktop
une liste de prompt intéressants pour utiliser dans ChatGPT
Un très bon article qui résume la situation actuel dans le monde des IA spécialisées dans le langage naturelle comme GPT3 et bien sur son accolyte ChatGPT.
Au délà de l'effet whaou (mérité!), l'auteur cite notamment 4 limites:
- pas de véritable compréhension des réponses par l'IA ce qui engendre des contresens, non-senses et autres incohérences
- pas de notion d'éthique
- difficulté de contextualisation, même dans le cadre d'un chatbot d'entreprise, ChatGPT se fera une joie de répondre à n'importe quelle question (sauf si on lui indique de ne pas le faire)
- le coût économique et écologique
Je pense qu'il y a d'autres choses à prendre en compte, typiquement si le contenu est généré par des IA (DALL-E et ChatGPT) alors ces mêmes IA s'entraineront sur ce contenu, ce qui entrainera potentiellement un affaiblissement des modèles (voir https://links.aschen.tech/shaare/40uSng)
La ville de Montpellier interdit la reconnaissance faciale.
Pour appuyer cette décision, la mairie a demander à ChatGPT des arguments en faveur de chaque camp puis à pris une décision en fonction des réponses.