La viennoise Ora Computing lève 3,5 M€ en amorçage pour rendre les modèles d'IA plus petits, plus rapides et moins coûteux

La viennoise Ora Computing a levé un tour d'amorçage de 3,5 millions d'euros pour compresser et optimiser les modèles d'IA. Le tour a été co-mené par Constructor Capital et Greencode Ventures, l'investisseur fondateur XISTA Science Ventures soutenant également la société.

Le coût est dans l'exécution du modèle, pas dans sa construction

L'essentiel de l'attention, dans l'IA, va à l'entraînement de modèles toujours plus grands. Le coût plus discret, et croissant, est celui de l'inférence — le fait de faire effectivement tourner un modèle pour répondre à une requête, encore et encore, à grande échelle. C'est cette facture qui détermine de plus en plus si déployer de l'IA a un sens économique, et elle augmente avec la taille du modèle.

Ora Computing s'y attaque frontalement. Sa pile logicielle et algorithmique compresse et optimise les modèles de fondation, affirme la société, réduisant leur empreinte mémoire jusqu'à 80 % et les exécutant jusqu'à quatre fois plus vite. Le bénéfice est double : des modèles assez petits pour tourner en périphérie (edge) — sur du matériel local ou contraint plutôt que dans un data center lointain — et une inférence cloud nettement moins chère pour les autres. Les techniques de ce domaine consistent en général à réduire la précision d'un modèle et à élaguer ses parties redondantes, pour qu'il fasse plus avec moins.

Une thèse à contre-courant, portée par des chercheurs en quantique

Fondée en 2024 par Stefan Sack et Raimel Medina — tous deux chercheurs en informatique quantique issus de l'ISTA, l'Institut autrichien des sciences et technologies —, la société repose sur une prémisse délibérément à contre-courant. « Nous avons fondé Ora Computing pour remettre en cause l'idée qu'une échelle massive serait nécessaire pour atteindre une intelligence utile, dit Sack. La prochaine vague d'adoption de l'IA sera portée par des modèles plus compacts. »

Ce cadrage compte parce qu'il s'oppose à l'orthodoxie dominante du « plus c'est gros, mieux c'est ». Si la frontière utile peut être atteinte par des modèles compacts plutôt que toujours plus grands, l'économie — et les besoins en matériel — du déploiement de l'IA s'en trouvent déplacés pour tout l'aval.

Ce que finance l'amorçage

Les fonds vont à trois chantiers : étoffer l'équipe, étendre les techniques de compression d'Ora aux plus grands modèles de pointe et lancer un produit commercial pour les fournisseurs d'inférence cloud — ces clients dont toute la structure de marge dépend du coût d'exécution efficace des modèles. À 3,5 millions d'euros, c'est un pari précoce et ciblé, mais il vise l'un des points de douleur les plus universels de l'IA appliquée : non pas la capacité d'un modèle, mais le fait que quiconque puisse se permettre de le faire tourner.