01/07/2024

Choisir le bon mode de déploiement pour votre projet d’IA générative

Service prêt à l’emploi, API ou infrastructure dédiée : quelle option choisir pour votre projet d’IA ?

Quatre modes de déploiement : service prêt à l’emploi, API, cloud dédié et serveurs sur site

Pour intégrer l’intelligence artificielle générative dans votre entreprise, vous devez choisir comment accéder aux grands modèles de langage (LLM) et où les faire fonctionner.

Ce choix dépend notamment de la maîtrise de vos données, de la sécurité, du temps de réponse attendu et de vos obligations réglementaires.

Quelle solution répond à vos besoins et à votre budget ? Ce guide compare quatre options, du service prêt à l’emploi au déploiement sur vos propres serveurs.

Les différents modes de déploiement de l’IA générative

1. L’abonnement à un service prêt à l’emploi

Abonnement à un service d’IA générative prêt à l’emploi

ChatGPT d’OpenAI est un exemple de service prêt à l’emploi. Vos équipes peuvent l’utiliser directement dans leurs activités. La plateforme propose différentes formules selon les fonctionnalités de sécurité et de confidentialité recherchées, comme ChatGPT Enterprise.

Cette option convient aux équipes qui souhaitent utiliser des outils d’IA sans développer ni maintenir une application sur mesure.

Principaux avantages

Limites

2. La facturation à l’usage via une API

API d’IA générative facturée à l’usage

Les API permettent d’intégrer des modèles d’IA à vos applications et à vos outils existants. Vous pouvez ainsi développer des usages sur mesure, avec une facturation qui dépend de votre consommation.

Avec cette option, vous payez uniquement les requêtes envoyées au LLM via l’API, qui sont traitées dans le cloud du fournisseur. Même si vos données passent par les serveurs du fournisseur, les politiques de sécurité sont généralement strictes et les données fortement chiffrées. À titre d’exemple, OpenAI indique ne pas s’approprier les données d’entrée de ses clients ni les utiliser pour entraîner ses modèles ou pour un usage interne.

L’API d’un fournisseur convient aux entreprises qui développent une application sur mesure sans héberger elles-mêmes les modèles.

Principaux avantages

Limites

3. Le point d’accès dédié

Déploiement sur un point d’accès dédié

Pour les entreprises qui ont besoin de davantage de contrôle et de personnalisation, la mise en place d’un point d’accès dédié chez un fournisseur cloud comme Azure est une option pertinente. Cette configuration offre une meilleure maîtrise du traitement des données et de la latence, ce qui la rend adaptée aux secteurs soumis à des exigences de sécurité strictes. Elle peut être mise en place en échangeant avec les équipes commerciales d’OpenAI, ou plus simplement avec Mistral sur Azure.

Principaux avantages

Limites

4. Le déploiement sur site, ou on-premise

Déploiement sur votre propre infrastructure

Déployer les modèles d’IA générative dans vos propres locaux offre le plus haut niveau de contrôle. Ce niveau est essentiel pour les secteurs soumis aux exigences de sécurité et de conformité les plus strictes, comme la défense ou la santé.

Cette option garantit que les données restent dans l’infrastructure de l’organisation, sans déléguer leur sécurité au fournisseur du modèle. Ce niveau de contrôle ne peut donc être atteint qu’avec des modèles open source, comme Llama 3 ou Mixtral, à l’aide d’outils comme vLLM. Cette option exige également un haut niveau d’expertise pour paralléliser les traitements, adapter les ressources à l’utilisation des modèles et garantir une faible latence.

Principaux avantages

Limites

La sécurité des déploiements d’IA générative

Lors du déploiement de LLM, la sécurité de vos données est primordiale. OpenAI souligne, par exemple, ne pas entraîner ses modèles sur les données professionnelles issues de ChatGPT Team, de ChatGPT Enterprise ou de sa plateforme d’API. Les entreprises conservent par ailleurs la propriété de leurs données d’entrée et de sortie et peuvent contrôler les durées de conservation des données.

Toutefois, la confiance reste un facteur essentiel lorsque vous faites appel à des prestataires externes.

Trois points méritent une attention particulière :

Pour les secteurs qui exigent davantage de contrôle, les points d’accès dédiés ou les déploiements sur site offrent une sécurité accrue en maintenant les données dans un environnement maîtrisé et en réduisant la dépendance aux acteurs externes.

Faire les bons choix

Pour choisir, partez de vos usages, de vos contraintes et des ressources de votre équipe :

Conclusion

Le bon choix est celui qui répond à vos usages, avec un coût et une charge de maintenance que votre équipe peut assumer. Chez Fonction Labs, nous vous aidons à choisir, concevoir et déployer la solution adaptée à votre projet.

Parlons de votre projet d’IA générative.