ChatGPT-pionier onthult Jev: razendsnelle AI voor programmeerlogica

·
Luister naar dit artikel~3 min
ChatGPT-pionier onthult Jev: razendsnelle AI voor programmeerlogica

TypeSafe, mede opgericht door een ChatGPT-pionier, lanceert Jev: een AI-model dat programmeerbare logica automatiseert met parallelle sampling. Sneller, goedkoper en zonder hallucinaties.

Stel je voor: een AI-model dat geen gesprekken voert, maar razendsnel beslissingen neemt in code. TypeSafe, opgericht door een van de breinen achter ChatGPT, heeft na twee jaar stilte het Jev-model onthuld. Dit model is ontworpen om programmeerbare logica te automatiseren met behulp van parallelle sampling. Klinkt technisch? Zeker, maar de impact kan enorm zijn voor developers en bedrijven die worstelen met trage, onbetrouwbare AI-oplossingen. ### Wat is Jev en waarom zou je ervan wakker liggen? Jev is geen chatbot. Het is een gespecialiseerd model dat ongestructureerde input omzet in gestructureerde, type-veilige output. Geen gedoe met tekstgeneratie of syntaxfouten. In plaats daarvan krijg je direct bruikbare beslissingen die je in productiecode kunt integreren. Diogo Almeida, oprichter van TypeSafe en mede-uitvinder van ChatGPT, vat het treffend samen: "Zie Jev als een frontier-intelligentie functieaanroep: ongestructureerde staat erin, getypeerde probabilistische beslissingen eruit." ### Hoe werkt het? Een kijkje onder de motorkap Traditionele AI-modellen zoals GPT zijn getraind met Reinforcement Learning from Human Feedback (RLHF) om gesprekken natuurlijk te laten verlopen. Jev gooit het over een andere boeg. Het gebruikt Reinforcement Learning for Calibrated Decisions (RLCD), waarbij het model wordt beloond voor het geven van goed gekalibreerde waarschijnlijkheden. Dat betekent dat de confidence scores die het teruggeeft, direct correleren met de nauwkeurigheid van de output. Geen giswerk meer. Daarnaast maakt Jev gebruik van een hardware-aware parallel sampler. In plaats van token voor token te genereren, evalueert het alle opties tegelijk. Dit resulteert in bliksemsnelle responstijden van 70 tot 500 milliseconden, vergeleken met de 3 tot 329 seconden die je bij conversationele modellen ziet. En het mooiste: de outputs zijn beperkt tot vooraf gedefinieerde schema's, waardoor je geen last hebt van hallucinaties of parsing-problemen. ### Van Doom-bots tot petabytes aan data De praktijktests liegen er niet om. TypeSafe voerde een live demonstratie uit waarbij een realtime bot Doom speelde met 10 queries per seconde, tegen een kostprijs van ongeveer €6,50 per uur. Een andere test, Wikiracing genaamd, liet zien dat Jev sneller door encyclopedieën navigeert dan niet-redenerende modellen, simpelweg omdat het geen valse doorgangen creëert. - **Realtime feature extraction**: direct inzichten uit datastromen halen. - **Petabyte-schaal dataworkflows**: grote datasets verwerken zonder vertraging. - **Outputverificatie**: controleren of resultaten kloppen voordat ze verder gaan. - **Geautomatiseerde beslislogica**: waar handgeschreven regels te fragiel blijken. ### Kosten en beschikbaarheid TypeSafe rekent $0,042 per miljoen inputtokens, omgerekend ongeveer €0,039. Dat is een fractie van de $0,20 tot $10 per miljoen tokens die je bij conversationele modellen betaalt. Omdat parallelle sampling geen sequentiële tokengeneratie nodig heeft, worden outputtokens niet in rekening gebracht. Een flinke kostenbesparing dus. Het bedrijf heeft vandaag vroege toegang geopend voor ontwikkelaars. Geïnteresseerde engineeringteams kunnen zich aanmelden via de wachtlijst. Of Jev de belofte van 'frontier intelligence' waar maakt, zal de tijd leren. Maar één ding is zeker: de manier waarop we AI inzetten voor programmeerbare logica staat op het punt te veranderen.