Strata : faire tourner un gros modèle d’IA sur un PC de jeu
Le projet Strata, très discuté sur Hacker News (plus de 640 points et 300 commentaires), promet de faire tourner Qwen3.8-Flash-Next, un très gros modèle, sur un ordinateur équipé d’une carte RTX 4090.
Ce que propose Strata
Selon sa page GitHub : installation en un clic sur Windows et Linux, un moteur d’inférence maison, une API compatible OpenAI/Anthropic en local et la prise en charge des images.
Pourquoi ça compte
L’IA puissante n’exige pas toujours des serveurs à des milliards. Faire tourner un modèle chez soi, c’est plus de confidentialité et zéro abonnement.
À garder en tête
Les performances annoncées sont à vérifier sur votre propre machine ; une RTX 4090 reste une carte haut de gamme.
Questions fréquentes
Qu’est-ce que l’inférence ?
C’est le moment où le modèle déjà entraîné répond à vos questions. C’est ce que fait un moteur comme Strata.
Sources
À lire aussi
Qwen 3.8 27B : 6,8 millions de téléchargements pour un modèle gratuit
Le modèle ouvert Qwen3.8-27B d’Alibaba dépasse 6,8 millions de téléchargements sur Hugging Face, avec près de 17 000 mentions « j’aime ».
Lire l’article
Kolibri : l’Allemagne a son IA « souveraine »
Aleph Alpha publie Kolibri, un modèle ouvert anglais-allemand sous licence Apache 2.0, avec un contexte d’un million de tokens.
Lire l’article
Diarisation : l’IA de Nvidia qui sait qui a parlé, et quand
Nvidia publie Nemotron-3-Diarization, un modèle qui distingue les voix dans un enregistrement : utile pour les réunions, podcasts et cours.
Lire l’article