SenseTime's Galaxy Project: Chinese AI-chipschaal op eigen kracht

·
Luister naar dit artikel~5 min
SenseTime's Galaxy Project: Chinese AI-chipschaal op eigen kracht

SenseTime lanceert het Galaxy Project met bijna twintig partners om binnenlandse AI-chipinfrastructuur op te schalen. Zijn de claims over token doorvoer en kostenbesparing geloofwaardig?

Het Chinese SenseTime heeft het Galaxy Project gelanceerd, een samenwerking met bijna twintig partners om de binnenlandse AI-chipinfrastructuur op te schalen. Tijdens een keynote getiteld 'Intelligent Transformation and Symbiosis' schetste medeoprichter Yang Fan een gesloten kringloop: van chiptechnologie en ecosysteempartnerschappen tot commerciële inzet van eigen AI-rekenkracht. Naast het Galaxy Project tekende SenseTime een ruimtecomputingovereenkomst met satellietbouwer Guoxing Aerospace en startte het een onderzoekssamenwerking met vijf instituten, waaronder het Shanghai Artificial Intelligence Laboratory, gericht op wetenschappelijke computertoepassingen. Yang benadrukte drie trends die samenkomen: de stijgende vraag naar tokens in bedrijfsimplementaties, de inhaalslag van industriële AI ten opzichte van consumententoepassingen, en de commercialisering van binnenlandse chips die het mogelijk maakt om op tempo intelligente rekencentra te bouwen op Chinese silicium. Maar of dat venster zo open is als SenseTime beweert, hangt sterk af van cijfers die het bedrijf niet onafhankelijk heeft laten verifiëren. ### Token doorvoercijfers met een groot voorbehoud SenseTime stelt dat zijn grootschalige apparaatplatform nu gemiddeld 2,42 biljoen tokens per dag verwerkt, en het bedrijf verwacht dat dit aantal tegen het vierde kwartaal van 2026 met 25 keer zal stijgen tot 10 biljoen tokens per dag. Dat is een voorspelling, geen gemeten resultaat. Bedrijven die de infrastructuur van SenseTime evalueren, moeten dit als zodanig beschouwen totdat er kwartaalcijfers beschikbaar zijn. De kostenbesparingen die aan die groei worden gekoppeld, zijn eveneens zelfgerapporteerd. SenseTime zegt dat zijn heterogene hybride inferentietechnologie een toename van 85 tot 152 procent in Model FLOPs Utilisation oplevert op gangbare binnenlandse chips, met een inferentiekosteneffectiviteit die het bedrijf stelt op 1,25 keer die van Nvidia's H-serie. Vergeleken met binnenlandse homogene inferentieopstellingen claimt SenseTime een 2,5 keer hogere tokenoutput tegen gelijke kosten. Dat zou geoptimaliseerde hybride inferentieclusters boven de minimale winstgevendheidsdrempel voor binnenlandse rekenkracht tillen. Geen van deze cijfers is voorzien van onafhankelijke benchmarks. Het verschil tussen een geoptimaliseerd testcluster van een leverancier en de productieomgeving van een klant – met ongelijke datapijplijnen en vertraagde firmware-updates – is precies waar zulke cijfers vaak minder indrukwekkend blijken. ### Aanpassingsvermogen en het multi-chip probleem Binnenlandse AI-chips hebben historisch geworsteld met een gefragmenteerde softwarestack: modellen getraind voor de ene architectuur moeten vaak worden herschreven om op een andere te draaien. SenseTime zegt een full-stack aanpassingslaag te hebben gebouwd die modellen, frameworks, operatoren, toolchains en hardware omvat, zodat klanten workloads kunnen verplaatsen tussen binnenlandse chipleveranciers zonder uitgebreide herschrijvingen. Het bedrijf wijst op twee voorbeelden. Bij een AI4S lange-sequentie eiwitvoorspellingstaak zorgde geoptimaliseerde operatorfusie voor een verkorting van de voorspellingstijd met een factor drie. Bij AIGC videogeneratie claimt het een 93 procent multi-card parallelle acceleratieverhouding voor binnenlandse chips die DiT-modellen draaien, naast wat het beschrijft als migratie zonder kosten voor gangbare AI-ontwikkeltools. Dit zijn cijfers die er in een sandbox-test goed uitzien, maar pas echt belangrijk worden wanneer ze worden getest in echte klantomgevingen met gemixte hardwaregeneraties. ### Energie-efficiëntie krijgt een nieuwe benchmark SenseTime introduceerde een metriek die het Tokens Per Watt noemt, gepositioneerd als vervanger voor het meten van AI-datacenterefficiëntie. Daarnaast presenteerde het een Computing-Power Collaboration Agent die resourceplanning, elektriciteitsprijsvoorspelling en energieopslagoptimalisatie afhandelt. Hoewel deze innovaties veelbelovend klinken, blijft de vraag of SenseTime de beloften kan waarmaken in de praktijk. De concurrentie in de AI-chipmarkt is moordend, en bedrijven als Nvidia hebben een voorsprong die moeilijk in te halen is. Toch laat het Galaxy Project zien dat China serieus werk maakt van een onafhankelijke AI-infrastructuur. ### Wat betekent dit voor de markt? Voor bedrijven die overwegen over te stappen op binnenlandse AI-chips, is het belangrijk om de claims van SenseTime kritisch te bekijken. Onafhankelijke benchmarks ontbreken, en de overstap naar een nieuwe architectuur brengt risico's met zich mee. Toch kan het Galaxy Project een katalysator zijn voor verdere innovatie in de Chinese AI-sector. - Token doorvoercijfers zijn nog niet onafhankelijk geverifieerd. - Kostenbesparingen zijn gebaseerd op eigen claims. - De softwarestack moet nog bewijzen dat het multi-chip probleem is opgelost. Al met al is het Galaxy Project een ambitieus initiatief dat de potentie heeft om de balans in de AI-chipmarkt te verschuiven. Maar zoals bij elke grote belofte: de waarheid zit in de details.