Self-host une IA, qu'est ce que c'est?

L'IA s'immisce de façon accrue dans notre travail et notre quotidien, et elle ne va que continuer de le faire de plus en plus.

L’utilisation de l’IA devient de plus en plus commune, que ce soit dans nos questionnements quotidiens ou dans notre travail. La plupart des outils utilisés actuellement se trouvent néanmoins hébergés sur des serveurs tiers, quelque part loin et en dehors de notre contrôle. Face à ces problèmes et à de nombreux autres provoqués par l'hébergement tiers, le self-hosting de modèles IA open source peut être une solution plausible. C’est une proposition qui vaut la peine d’être étudiée, le sérieux de celle-ci peut être attesté par exemple par le conseil fédéral qui est en passe d’implémenter sa propre IA interne (self-host donc) basée sur un modèle open-source (Llama 3) afin d’aider dans les tâches de l’administration fédérale.

L'hébergement localisé de l’IA consiste à faire tourner les modèles sur ses propres machines physiques. Dans ce cas, la machine sur laquelle tous les calculs sont faits est physique, en votre possession et sur votre réseau.

Les Avantages

Quels sont les avantages de l'auto-hébergement d'une IA par rapport aux services cloud proposés par les entreprises tierces ?

Tout d’abord, le fait que les systèmes d’IA soient localisés physiquement proches de l’endroit final d’utilisation (vous), voire sur le même réseau, signifie que le signal de vos requêtes et des réponses a “moins de distance” à parcourir. La latence est de ce fait réduite, ce qui crée des systèmes d’IA plus rapides à utiliser.

Ensuite, avec un serveur qui vous appartient, les données que vous faites parvenir à l’IA, que cela soit les requêtes, les prompts, les fichiers textes, vidéos, images, etc., que vous lui donnez restent sous votre contrôle. Cela est particulièrement intéressant si vous avez besoin de traiter des données sensibles, voire confidentielles. Cet avantage est aussi à prendre en compte pour la simple raison du respect de la vie privée et de la confidentialité. Même si vous, ou votre entreprise, ne manipulez pas de données sensibles, l’utilisation de services qui sont hébergés sur des serveurs dans des pays avec des lois plus laxistes sur la manipulation de données d’utilisateurs peut entraîner des non-respects de la vie privée. À cela s’ajoute que les services d’IA sont en mesure d’utiliser les données qui leur sont fournies pour entraîner leurs modèles, et de plus, en confiant ses données à des opérateurs tiers, on s’expose au risque que ces acteurs tiers se fassent pirater ou que leurs données fuitent. En mettant en place un système d’IA sur vos propres infrastructures, vous garantissez que vos données ne sortent pas, ou au minimum, de vos machines, ce qui permet de garder un contrôle complet dessus. De plus, dans le cas où vous faites passer des données clients par l'IA ou que vous utilisez cette dernière afin de traiter des dossiers qui incluent des données clients, vous avez le moyen de garder la main dessus sans les envoyer à des entreprises tierces et cela en garantissant le respect de la législation européenne en la matière. Il est quand même important de noter que les différents services d'IA incluent, pour certains, des garanties de sécurité. La version payante de Microsoft Copilot, qui a accès aux fichiers sur votre ordinateur, garantit que tous les calculs et les données stockées le sont sur des serveurs Microsoft Azure en Europe. 

La personnalisation est un autre atout d'une IA self-host. Avec les services tiers, les modèles proposés sont rigides et “définis”. Il n’y a pas vraiment de place pour pouvoir tailler une IA à sa guise. Les modèles self-host permettent d’abord de pouvoir régler les paramètres des différents modèles plus précisément, afin de rendre les réponses plus pertinentes et précises, mais aussi pour que les réponses données soient plus appropriées, spécialement pour votre domaine d’entreprise. Cela permet aussi que les modèles puissent être entraînés sur votre propre ensemble de données, afin d’avoir des réponses encore plus précises dans les domaines spécifiques. Le fait de self-host l’IA donne la possibilité de donner accès à vos données d’entreprise, stockées sur vos serveurs, à l’intelligence artificielle, de la même manière que la version payante de Microsoft Copilot a accès à vos données sur votre ordinateur. Les avantages sont les mêmes, les réponses de l’IA deviennent “personnalisées” : elle est en mesure de répondre à des questions spécifiques “internes” à l’entreprise dont les réponses seraient dans les données, fichiers, documents, rapports… Cela simplifie grandement les opérations, et de ce point de vue-là, l’IA peut vraiment servir d'assistant personnel. La version payante de Microsoft a une fonction similaire pour les données stockées sur leurs serveurs Azure.

Les points négatifs et contraintes

La première contrainte pour la mise en place de cette solution est l’infrastructure. Les IA ont besoin d’une grande capacité de calcul, cette capacité de calcul est fournie par des processeurs graphiques (GPU). Le marché des GPU est pratiquement monopolisé par une seule entreprise - nvidia, et ces derniers sont les uniques fabricants des processeurs graphiques les plus puissants. Des solutions existent, néanmoins, qui essayent de les faire fonctionner sur exclusivement des processeurs centraux (CPU), par exemple LocalAI. Les GPUs coûtent plus ou moins chers, avec le prix qui varie avec la puissance nécessaire pour faire fonctionner vos modèles, car oui chaque modèle d’IA à une taille différente, et même un seul modèle peut être proposé en plusieurs tailles. Un modèle plus grand, la taille étant calculée en nombre de paramètres, permet d’avoir des réponses plus précises et plus rapides, ainsi que de traiter une plus grande quantité de données. Les prix actuels restent néanmoins abordables surtout pour les configaurations de petites et moyennes tailles, on peut compter une estimation initiale de 2000 à 5000 CHF. Le prix peut ensuite grimper effectivement vers l'infini. Toute cette infrastructure consomme bien évidemment de l’électricité ce qui peut engendrer un certain coût.

Exemple de carte graphique - ici une Nvidia RTX 2080 d'ancienne génération. La génération la plus récente est la 5000.

Le deuxième point négatif est que, comme avec toutes les solutions self-hosted, le déploiement de celle-ci nécessite une connaissance technique du sujet. En effet, pour quelqu’un qui ne s’y connaît pas en serveurs, connectivité, etc., ce type de tâches peut s’avérer ardu, mais pour cela nous avons une solution et nous pouvons vous conseiller et vous aider sur le sujet.

De ce fait, utiliser un service cloud d'IA peut s'avérer pratique, car plus simple à utiliser et nécessitant un investissement initial plus bas. Pour des tâches qui nécessiteraient une utilisation rare de l'IA, la plus-value d'une IA self-host serait assez minime, voire inexistante. Il est de ce fait nécessaire de faire une analyse des coûts et de définir les buts et l'ampleur de l'utilisation de ce genre de système dans votre entreprise.

Exemple d’outil open-source pour le self-host : LocalAI

logo de LocalAI

LocalAI se positionne comme un remplaçant gratuit et open source à OpenAI. Son but principal est d’offrir une alternative self-host aux API d'OpenAI, de telle manière à ce que le remplacement dans vos projets d’une API d’OpenAI par celle de LocalAI soit simple et efficace. LocalAI permet de faire fonctionner des outils d’IA, tels que les LLM, des générateurs d’images et des outils text-to-speech, directement sur votre propre serveur. LocalAI se targue aussi de pouvoir fonctionner en utilisant seulement des CPU. Cela permet de ne pas avoir besoin d’infrastructures trop puissantes.

Les modèles supportés par LocalAI sont nombreux, la liste complète peut être trouvée sur : https://localai.io/gallery.html . Elle inclut notamment Gemini 3 de Google, Deepseek r1, et Llama 4 Scout de Meta (ex-Facebook). Les trois modèles cités sont assez puissants, notamment Llama et Deepseek qui rivalisent avec les leaders du domaine que ce soit ChatGPT (Deepseek est d'ailleurs plus performant que ChatGPT sur de nombreux points) ou Gemini de Google.

Conclusion

En conclusion, le self-hosting, ou auto-hébergement, de l’IA est une solution intéressante et présente plusieurs avantages, bien que sa mise en place soit accompagnée de quelques difficultés et contraintes. Avec ce système, la latence est réduite, et les données sont garanties de rester dans un environnement clos. De plus, les modèles peuvent être personnalisés, taillés à vos besoins. Tous ces points sont particulièrement intéressants pour les sociétés qui opèrent dans des contextes spécifiques, celles nageant dans les fichiers sensibles ou dans des industries avec un grand besoin d’automatisation personnalisée. Des outils existent, tels que LocalAI, pour mettre en place cette alternative. Toutefois, il y a une expertise technique nécessaire pour la mise en place de ces solutions, ce qui peut entraîner des coûts additionnels, et les infrastructures nécessitent un investissement initial plus ou moins conséquent. En somme, l’IA est une technologie qui est encore à ses débuts. Le fait de la self-hoster permet d’accéder non seulement à une solution d’automatisation nouvelle, mais aussi à une capacité d’expérimenter avec ces nouvelles techniques et de voir leurs utilité dans votre propre domaine de compétence.