Jev ne parle pas, il décide : ce que change le premier « modèle Système 1 »
Jev, le modèle de TypeSafe AI, décide au lieu d'écrire. Ce que valent sa vitesse, son prix et son « zéro hallucination », et comment l'utiliser sans risque.
Entre 70 et 500 millisecondes. C'est le temps que met Jev à répondre, le modèle lancé le 15 septembre par TypeSafe AI. Selon ses créateurs, il va jusqu'à 193,6 fois plus vite qu'un LLM de frontière, pour un coût jusqu'à 444 fois plus bas.
Ces chiffres sortent de quatre workflows construits par TypeSafe elle-même, qui admet qu'ils se situent « probablement dans le haut de la fourchette ». Et franchement, la vitesse n'est pas ce qui m'intéresse ici. Jev ne rédige rien : il choisit. Pour qui construit un produit avec de l'IA, ça change la façon de l'utiliser.
Un modèle qui ne parle pas
ChatGPT ou Claude produisent du texte, mot après mot. Jev, lui, reçoit un contenu (un message, un JSON, une liste) et des questions dont les réponses possibles sont fixées à l'avance.
Il renvoie l'option retenue, une probabilité pour chaque option et un indice de confiance. Il sait choisir parmi des options, noter sur une échelle ou répondre par oui ou non, et il traite toutes les questions en parallèle.
TypeSafe parle de « modèle Système 1 », en référence à la pensée rapide décrite par Daniel Kahneman. Le LLM garde le rôle du Système 2 : plus lent, mais capable de raisonner et d'écrire.
L'équipe n'arrive pas de nulle part. Diogo Almeida, cofondateur et CEO, a passé environ quatre ans chez OpenAI sur le RLHF, InstructGPT, ChatGPT et GPT-4. TypeSafe sort de deux ans de travail discret avec 40 millions de dollars levés auprès de DCVC, pour une valorisation de 200 millions selon Forbes.
Le nom renvoie au paradoxe de Jevons : plus une ressource devient efficace, plus on en consomme. Le pari de TypeSafe est là. Si décider ne coûte presque plus rien, on décidera partout.
Côté accès, la liste d'attente a été levée le 20 septembre : n'importe quelle équipe peut désormais l'essayer.
Ce que Jev sait déjà faire
Les premiers retours sont concrets. KDnuggets rapporte un routage d'agents en 145 à 271 millisecondes, et un aiguillage entre modèles en une seconde environ, contre 4 à 14 secondes avec des LLM.
Autre exemple : 724 publicités de 37 marques analysées en une quarantaine de secondes, pour environ 9 centimes. Le tarif affiché est de 0,042 dollar par million de tokens en entrée, et la sortie n'est pas facturée.
Gardez en tête la méthode derrière les gros chiffres de vitesse. Les LLM concurrents ont été mesurés à travers un adaptateur écrit par TypeSafe, et aucun benchmark indépendant d'ampleur n'existe encore, douze jours après la sortie.
Sur un essai mené par une marque grand public (284 conversations, rapporté par eesel AI), Jev a trié les tickets correctement dans 93 % des cas et attrapé tout le spam, sans faux positif. Les réponses rédigées ensuite par un autre modèle, elles, n'étaient envoyables telles quelles que dans 12 % des cas. Jev tranche vite, mais le reste du travail est toujours là.
Zéro hallucination, vraiment ?
TypeSafe met en avant l'argument « zéro hallucination ». Il est exact, dans un sens étroit. La sortie est contrainte par un schéma, donc Jev ne peut pas inventer une catégorie qui n'existe pas. Il peut par contre choisir la mauvaise.
KDnuggets le résume ainsi : zéro hallucination veut dire zéro sortie hors schéma, pas zéro décision incorrecte. Un ticket urgent classé « pas urgent » reste une erreur, même parfaitement formatée.
Le score de confiance mérite la même prudence. Un test publié le 24 septembre est parlant : on cache le résultat d'un lancer de dé et on demande 400 fois à Jev de le deviner. Il affiche en moyenne 83 % de confiance. Il a raison 19 % du temps, soit exactement le hasard sur un dé à six faces.
L'auteur du test reconnaît que d'autres essais montrent une meilleure calibration. Il conseille de lire le score comme un classement, et non comme une probabilité, tant qu'on ne l'a pas vérifié sur ses propres données. Je ferais pareil.
Le résultat surprend d'autant plus que TypeSafe a entraîné Jev précisément pour calibrer ses probabilités, avec une méthode maison et uniquement des données synthétiques. Face à une question sans bonne réponse possible, comme un dé, il continue pourtant d'afficher de l'assurance.
Comment l'utiliser sans se brûler
Jev se glisse dans un produit ou un agent aux endroits où un LLM est surdimensionné : trier des tickets, aiguiller des demandes, modérer, qualifier des leads. Pour écrire ou raisonner, vous gardez votre LLM.
La mise en place est simple. Rassemblez quelques centaines d'exemples que votre équipe a déjà classés à la main. Regardez à partir de quel niveau de confiance Jev ne se trompe presque plus sur ces exemples. Automatisez au-dessus de ce seuil, et laissez le reste à un humain.
Le prix ne sera pas le frein. Au tarif affiché, classer 10 000 tickets de 500 tokens chacun, soit 5 millions de tokens, revient à environ 21 centimes. Ce qui vous coûtera vraiment, c'est le temps passé à constituer ce jeu d'exemples.
Gardez aussi ses limites en tête. D'après sa documentation et la presse, Jev est mauvais en calcul, en comptage et en comparaison de dates, sensible aux entrées piégées, et il n'explique pas ses choix. Sa fenêtre de contexte, 32 000 tokens, suffit pour un ticket ou un e-mail, pas pour un long contrat. Il est pensé d'abord pour l'anglais : les autres langues sont « moins bien » prises en charge, donc testez-le sur vos contenus en français avant de lui confier quoi que ce soit.
L'idée elle-même n'est pas neuve. KDnuggets rappelle que la classification « zero-shot » existe depuis 2019. Ce qui change, c'est la vitesse, le prix et le soin mis dans la calibration.
Écrire et décider, deux métiers
Avec Jev, écrire et décider deviennent deux briques séparées. Si les promesses de coût tiennent, une décision coûtera à peine plus qu'une requête en base de données, et la question deviendra : lesquelles automatiser, et lesquelles laisser à un humain ?
Et vous, quelle décision de votre produit confieriez-vous à Jev ?