OpenAI propose un pipeline complet de fine tuning directement depuis son API.

Cela permet de fine tuné un modèle depuis les input/output d'un plus grand modèle.

Concrètement, cela peut permettre de spécialiser GPT-4o-mini avec GPT-4o voir o1 pour avoir un modèle rapide et pas cher spécialisé sur une tâche précise.

C'est assez simple d'utilisation car directement intégré:

• on ajoute un paramètre store: true lors des appels API pour créer un dataset
• on crée la baseline d'évaluation du dataset avec le modèle
• on fine tune le plus petit modèle avec le dataset
• on évalue le modèle fine tuné avec le dataset par rapport à la baseline