L'auto-amélioration de l'IA de Karpathy
Le développement de l'IA s'accélère grâce aux progrès matériels et logiciels. Le projet Nanochat peut désormais entraîner un modèle GPT-2 sur un seul nœud avec 8 cartes NVIDIA H100, réduisant le temps d'entraînement de semaines à heures.