Les achats de logiciels bouleversés par l'IA
Développer une stratégie gagnante qui réduit les risques liés à l'IA
Le monde a tourné la tête quelques instants et soudainement l'IA était devenue omniprésente. Les entreprises font appel à l'IA générative (GenAI) pour proposer une assistance client 24 heures sur 24, produire des recommandations d'achats personnalisées, accélérer le développement de logiciels, créer des contenus marketing et bien davantage.
Aujourd'hui, l'IA est tout aussi importante et déstabilisante que l'ordinateur le fut lors de son introduction dans le monde de l'entreprise. Si une entreprise n'adopte pas l'IA, elle court le risque de perdre rapidement l'intérêt du public.
Les DSI et les RSSI subissent donc d'énormes pressions à lancer des initiatives en matière d'IA. On attend d'eux qu'ils adoptent les nouvelles solutions logicielles basées sur l'IA et permettent à leurs collaborateurs d'accéder aux outils d'IA. Cependant, ces leaders en matière de technologie sont conscients de ce que l'IA fait naître de nouveaux risques. Bon nombre d'entre eux mettent rapidement en œuvre des politiques et des protections visant à protéger les informations sensibles, à prévenir l'IA fantôme et à réduire la probabilité de générer de la mésinformation.
Tandis que les responsables de la technologie essaient de trouver le bon équilibre entre mise en place de l'IA et gouvernance de son utilisation, ils doivent modifier les processus d'achat et de renouvellement des logiciels. Si l'achat de logiciels est pour certains un jeu d'enfant, l'IA est en train de changer la donne. Celui qui continue de jouer selon les anciennes règles met les entreprises en danger. Pour limiter ce risque, les DSI et les RSSI doivent examiner plus en détail les contrats d'utilisation de logiciels, les architectures des applications et les fournisseurs de logiciels eux-mêmes.
Difficulté n°1 : l'évolution des contrats d'utilisation de logiciels
À mesure que les fournisseurs de logiciels intègrent l'IA dans un nombre croissant de leurs produits, les DSI et les RSSI doivent faire évoluer leur manière de gérer les renouvellements de logiciels. Pour les logiciels que vous avez déjà achetés, vous avez probablement signé un contrat cadre de service et accepté certaines conditions. Cependant, certains de ces termes figurent en lien hypertexte conduisant à d'autres documents. Lors de la mise à jour d'un logiciel, les fournisseurs peuvent modifier le contenu de ces documents accessibles par hyperliens sans que vous n'en ayez conscience, à moins de constamment passer en revue les contrats cadre.
Le problème est que toute nouvelle fonctionnalité d'IA intégrée dans l'application peut être contraire à vos politiques de gouvernance des données et de l'IA. Emportés par la course à fournir des logiciels améliorés par IA, les fournisseurs de vos logiciels existants risquent de mettre vos politiques (et votre sécurité) en péril.
Difficulté n° 2 : architectures multi-entités et développement de modèles
Lorsque je procède à l'évaluation de solutions SaaS, je fais toujours en sorte de comprendre comment les fournisseurs gèrent l'architecture multi-entité. Plus précisément, je veux savoir ce qu'ils vont faire de mes données. Mes données seront-elles totalement séparées de celles des autres ?
Maintenant que les fournisseurs intègrent l'IA dans leurs produits, la manière dont les fournisseurs traitent les données peut faire apparaître d'autres problèmes de sécurité. Tout d'abord, de nombreux fournisseurs n'hébergent pas leurs propres services d'IA. Certains l'exécutent dans un cloud public. Et il est possible que ce fournisseur de cloud ne protège pas les données de manière adéquate.
Ensuite, les fournisseurs de logiciels utilisent probablement les données clients pour entraîner leur modèle d'IA, quel que soit l'endroit où se trouve ce modèle. Certes, j'attends de mes fournisseurs de logiciels une expertise dans la manière dont l'IA peut bénéficier à leurs clients dans leurs domaines. Par exemple, si un fournisseur dispose d'une application de ressources humaines améliorée par l'IA, je veux que ce fournisseur soit le meilleur au monde dans ce type de logiciel. Et le meilleur fournisseur sera celui qui dispose du plus grand nombre de données pour entraîner son modèle.
Cependant, je ne veux pas qu'ils utilisent mes données sensibles pour entraîner des modèles. Certains fournisseurs peuvent intentionnellement mélanger les données de plusieurs clients afin d'entraîner leurs modèles. Avant d'acheter un logiciel, je dois donc avoir au minimum la certitude que toutes mes données seront complètement anonymisées avant d'être utilisées pour entraîner le modèle d'un fournisseur.
Difficulté n° 3 : la longévité (ou plutôt, l'absence de longévité) des fournisseurs d'IA
De nouveaux fournisseurs de logiciels d’IA apparaissent en permanence, à l’image d’un flux constant d’équipes d'expansion au sein d’une ligue sportive professionnelle. Au-delà des très grandes entreprises technologiques bien établies qui lancent de nouvelles capacités d'IA, les start-ups de développement d'IA (uniquement axées sur les logiciels ou les outils basés sur l'IA) se multiplient rapidement. Lorsque OpenAI a l'impression d'être un acteur bien établi, vous savez que le marché évolue à une vitesse vertigineuse.
J'évalue ces nouveaux fournisseurs à l'aide de critères similaires à ceux des fournisseurs d'applications traditionnelles. Je veux savoir, par exemple, comment ces fournisseurs protègent mes données et les isolent de celles des autres clients.
Mais je m'interroge également sérieusement sur la longévité de ces fournisseurs. Les entreprises de développement d'IA naissent et meurent très rapidement. Avant d'acheter un logiciel d'IA auprès d'une start-up, je veux savoir si l'entreprise existera encore dans quelques années. Et qu'adviendra-t-il de mes données en cas de rachat ou de faillite de l'entreprise ?
Stratégies pour faire évoluer rapidement les achats de logiciels
L'erreur dans cette histoire est de partir du principe que certains aspects de votre environnement informatique resteront inchangés. Mais rien ne sera plus pareil. L'IA transforme fondamentalement tout, y compris les applications logicielles que vous avez déjà achetées et que vous utilisez depuis des années. Ainsi, à mesure que vous renouvelez vos logiciels et achetez de nouveaux outils basés sur l'IA, certains aspects de votre processus d'achat devront changer. Ces six bonnes pratiques seront essentielles :
Surveillez l'évolution des contrats cadres de service
À l'ère de l'IA, les renouvellements de logiciels exigent une vérification plus approfondie. Commencez par discuter avec les fournisseurs principaux qui mettent en œuvre l'IA. Demandez-leur directement : Comment traitez-vous mes données? Sont-elles stockées dans le même environnement que les données clients de vos autres clients ?
Lorsque vous renouvelez les licences d'un logiciel que vous avez déjà acheté, cherchez et passez en revue les conditions mises à jour qui figurent en lien hypertexte depuis les contrats cadres de service. Vérifiez que les termes nouvellement introduits n'entrent pas en conflit avec vos politiques en matière d'IA et de gouvernance des données.
Avec certaines de vos applications existantes, il est possible que vous n'ayez jamais consulté les contrats. Vous avez peut-être commencé avec un déploiement très restreint, avant de décider que ce n'était pas nécessaires. Toutefois, si vous élargissez le déploiement et passez à un accord de niveau entreprise, consacrez le temps nécessaire à cet examen. Vous pouvez établir une politique qui impose un audit des conditions générales lorsqu'un déploiement logiciel atteint un certain seuil.
Il pourra arriver que des ressources considérables soient nécessaire pour cette tâche d'interaction directe avec les fournisseurs et d'examen des contrats cadres. En effet, certaines entreprises utilisent des centaines d'applications SaaS. Néanmoins, pour préserver la sécurité, il sera essentiel de trouver un moyen de se tenir à jour de l'évolution des accords.Interrogez-les sur la protection des données
Il ne suffit pas de comprendre comment les données sont stockées et gérées, il convient de demander comment elles sont protégées. Un fournisseur de logiciels peut déployer une instance de son application pour chaque client, puis protéger chaque instance à l'aide d'une gamme complète de services de sécurité des applications.
Un autre fournisseur quant à lui utilisera une grande base de données pour tous ses clients. Cela doit vous alerter. Cependant, s'ils peuvent prouver qu'ils chiffrent ou segmentent suffisamment les données, et ainsi garantissent que les informations sensibles ne peuvent pas être exposées, vous pouvez toujours être tenté d'utiliser ce logiciel.Évaluez les priorités des fournisseurs
Concernant les fournisseurs plus récents qui proposent des outils basés sur l'IA, déterminez les priorités de leurs stratégies afin de déterminer s'ils conviennent à votre entreprise, et s'ils conviennent à long terme. Supposons que vous utilisiez le logiciel d'une start-up et que ayez rencontré des problèmes avec ce produit. Vous découvrez alors que la start-up vient de lever une nouvelle série de financements. Demandez-leur à quoi ils envisagent de consacrer cet argent. Si la réponse est la vente et non l’ingénierie, allez voir ailleurs.Comparez les notes au sein de votre communauté
Pour alléger la tâche consistant à examiner tous ces contrats cadres de service et à évaluer de nouveaux fournisseurs, il vous suffit de comparer les notes avec d'autres responsables de la technologie. Demandez à vos pairs, quelles sont les tendances en matière de conditions générales que vous constatez chez les fournisseurs ? Acceptez-vous les modifications ?
De même, recherchez des informations concernant les fournisseurs ne proposant que les fonctionnalités d'IA que vous envisagez. Demandez aux autres dirigeants : dans quelle mesure êtes-vous certain que vos données resteront protégées si cette entreprise cesse son activité ?Soyez prêt à vous éloigner
Il peut s'avérer très difficile de mesurer les risques introduits par les logiciels basés sur l'IA. Ainsi, qu'il s'agisse de renouveler un logiciel ou d'évaluer une nouvelle application, interrogez-vous sur votre degré de confort face à un risque que vous ne pouvez pas mesurer avec précision.
Dans certains cas, vous pouvez décider que le risque potentiel l'emporte sur la valeur potentielle. Vous pouvez arrêter d'utiliser des logiciels ayant introduit des risques inacceptables avec l'incorporation de fonctionnalités d'IA. Vous pouvez décider de ne pas adopter une nouvelle application IA, car vous n'avez pas confiance dans la sécurité de vos données ou dans l'avenir du fournisseur.
Il est possible d'envisager également une situation intermédiaire. Vous pouvez, par exemple, attendre qu'une start-up arrive à maturité avant d'acheter son logiciel. Vous pouvez également leur demander de prouver la valeur de leur application à l'aide d'une sélection réduite de fonctionnalités, ou d'un sous-ensemble de vos données.Songez à développer au lieu d'acheter
De nombreux fournisseurs SaaS proposant des produits améliorés par IA cherchent à atteindre un large éventail de clients. Par conséquent, elles conçoivent leurs produits en ayant à l'esprit le plus petit dénominateur commun à tous ces clients potentiels.
Cependant, en tant que RSSI, je veux des logiciels qui serviront réellement mon organisation. Je souhaite par exemple utiliser des outils d'IA capables de réduire la charge cognitive pesant sur mes collaborateurs, afin d'améliorer leur productivité et leur efficacité au sein de notre entreprise. Ces outils doivent puiser dans mes données, puis aider l'ensemble de mon entreprise à mieux fonctionner. Le problème est qu'il est difficile de trouver des logiciels prêts à l'emploi qui répondront aux besoins précis de mon organisation.
Il sera donc plus judicieux de développer que d'acheter. Si vous êtes en mesure de produire des fonctionnalités qui seront utiles à votre entreprise et vous apporteront une valeur concurrentielle, tout en réduisant au minimum les risques, le développement est à privilégier. En utilisant la bonne plateforme pour développeurs, vous accélérez la création de ces applications IA.
Se préparer aux perturbations liées à l'IA et aux achats de logiciels
Nous ressentons tous la pression qui nous pousse à adopter l'IA et à transformer nos entreprises. Les fournisseurs de logiciels sont impatients de faciliter cette transformation, et s'empressent d'ajouter de nouvelles capacités d'IA dans leurs produits. C'est pourquoi ceux parmi nous qui sont responsables de l'achat de logiciels doivent rester vigilants ; c'est comme si comme les règles d'achat de logiciels changeaient. De même, aujourd'hui, nous devons évaluer plus attentivement la manière dont les innovations logicielles affectent la sécurité.
Toutes les applications ne fournissent pas une valeur suffisante pour le risque que nous sommes prêts à accepter. Dans ces cas, le développement d'applications d'IA peut s'avérer être la meilleure solution. La plateforme pour développeurs de Cloudflare peut contribuer à rationaliser le processus de création et de mise à disposition des applications IA. Grâce à Cloudflare Workers AI, vous pouvez développer et exécuter des applications IA à la périphérie, à proximité des utilisateurs. En parallèle, la solution AI Gateway apporte une visibilité et un contrôle sur la manière dont les utilisateurs utilisent les applications IA.
Même si vous espérez simplement vous contenter d'un statu quo avec certains logiciels d'entreprise, sachez que les fonctionnalités de l'IA commenceront probablement à apparaître même dans ces applications plus anciennes, et vous finirez par être obligé de modifier votre processus d'achat. Si vous voulez limiter les risques engendrés par le grand bouleversement lié à l'IA dans l'achat des logiciels, il sera essentiel de vous y préparer.
Cet article fait partie de notre série consacrée aux nouvelles tendances et évolutions susceptibles d'affecter les décideurs en matière de technologies d'aujourd'hui.
Approfondir le sujet
Pour en savoir plus sur la façon dont l’IA transforme le monde des affaires et sur la façon de l’exploiter intelligemment et en toute sécurité, consultez l'e-book Garantir la sûreté des pratiques concernant l’IA : Guide de la création d’une stratégie évolutive en matière d’IA à l’intention des RSSI.
Auteur
Mike Hamilton – @mike-hamilton-us
DSI, Cloudflare
Conclusions essentielles
Cet article vous permettra de mieux comprendre les aspects suivants :
Des fonctionnalités d'IA sont ajoutées aux accords contractuels existants sans que vous en soyez informé
6 bonnes pratiques à prendre en compte lors de l'achat ou du renouvellement d'un logiciel
Comment garantir la conformité des politiques en matière d'IA et de gouvernance des données
Ressources associées
La gouvernance de l'IA commence par la gouvernance des données
L'IA est ici : comment les entreprises peuvent-elles préserver leur sécurité ?