Cómo la IA está transformando las compras de software
¿Cómo crear una estrategia eficaz que reduzca los riesgos relacionados con la IA?
Sin previo aviso, la IA se volvió omnipresente. Las organizaciones están utilizando la IA generativa para proporcionar soporte al cliente las 24 horas del día, generar recomendaciones de compra personalizadas, acelerar el desarrollo de software, crear contenido de marketing y mucho más.
Hoy en día, la IA es tan impactante y revolucionaria como lo fue el ordenador cuando se estrenó en el mundo empresarial. Si una empresa no incorpora la IA, podría volverse prácticamente irrelevante en muy poco tiempo.
Por lo tanto, los directores de informática y los CISO se encuentran bajo una enorme presión para emprender iniciativas de IA. Se espera que adopten nuevas soluciones de software basadas en IA y que den a los empleados acceso a herramientas de IA. Pero, al mismo tiempo, estos responsables tecnológicos entienden que la IA plantea nuevos riesgos. Muchos están implementando rápidamente políticas y protecciones para salvaguardar la información confidencial, evitar la Shadow AI y reducir la probabilidad de generar información errónea.
Mientras los líderes tecnológicos intentan encontrar el equilibrio adecuado entre facilitar la IA y gobernar su uso, deben modificar su proceso de compra y renovación de software. Si la compra de software a veces parece un juego, la IA está cambiando las reglas. Seguir las viejas reglas pone en riesgo a las organizaciones. Para reducir ese riesgo, los directores de informática y los CISO deben intensificar el escrutinio de los acuerdos de software, las arquitecturas de las aplicaciones y los propios proveedores de software.
Desafío n.º 1: Adaptación de los acuerdos de software
A medida que los proveedores de software integran la IA en cada vez más productos, los directores de informática y los CISO deben cambiar la forma en que gestionan las renovaciones de software. Para el software que ya has comprado, probablemente hayas firmado un acuerdo de servicio estándar (MSA) y aceptado ciertas condiciones. Sin embargo, algunos de esos términos tienen hipervínculos a otros documentos. Cuando se actualiza el software, los proveedores pueden cambiar el contenido de esos documentos con hipervínculos, y es probable que no lo sepas a menos que revises continuamente los MSA.
El problema es que cualquier nueva función de IA que se integre en la aplicación podría entrar en conflicto con tus políticas de IA y gobernanza de datos. En la carrera por ofrecerte el mejor software con IA, los proveedores de tu software actual pueden estar poniendo en riesgo tus políticas y tu seguridad.
Desafío n.º 2: Soluciones multiinquilino y creación de modelos
Cuando evalúo las soluciones SaaS, siempre tengo cuidado de entender cómo los proveedores gestionan la arquitectura multiinquilino. En concreto, quiero saber qué harían con mis datos. ¿Estarán mis datos totalmente separados de los de los demás?
Ahora que los proveedores están incorporando la IA en sus productos, puede haber algunos problemas de seguridad adicionales relacionados con la forma en que los proveedores manejan los datos. En primer lugar, muchos proveedores no alojan sus propios servicios de IA. Podrían estar ejecutándolos en una nube pública. Y es posible que ese proveedor de nube no esté protegiendo adecuadamente los datos.
En segundo lugar, los proveedores de software probablemente estén utilizando los datos de clientes para entrenar su modelo de IA, independientemente de dónde se encuentre ese modelo. Ahora, es cierto que quiero que mis proveedores de software sean expertos en cómo la IA puede beneficiar a sus clientes dentro de sus dominios. Por ejemplo, si un proveedor tiene una aplicación de recursos humanos mejorada con IA, quiero que ese proveedor sea el mejor del mundo en la entrega de ese tipo de software. Y el mejor proveedor será el que tenga más datos para entrenar su modelo.
Sin embargo, no quiero que utilicen mis datos confidenciales para el entrenamiento de modelos. Algunos proveedores pueden mezclar intencionadamente datos de varios clientes para entrenar sus modelos. Pero, como mínimo, antes de comprar un software, necesito estar convencido de que todos mis datos serán completamente anónimos antes de que se utilicen para entrenar el modelo de un proveedor.
Desafío n.º 3: La (falta de) longevidad de los proveedores de IA
No dejan de aparecer nuevos proveedores de software de IA, como un flujo constante de equipos en expansión en una liga deportiva profesional. Más allá de las grandes empresas tecnológicas bien consolidadas que están incorporando nuevas capacidades de IA, las startups de IA, centradas únicamente en software o herramientas basadas en IA, se están multiplicando rápidamente. Cuando OpenAI parece un actor consolidado, sabes que el mercado está evolucionando a una velocidad vertiginosa.
Evalúo a estos nuevos proveedores utilizando criterios similares a los de los proveedores de aplicaciones heredadas. Quiero saber, por ejemplo, cómo estos proveedores mantienen mis datos protegidos y separados de los datos de clientes.
Pero también me preocupa mucho la longevidad de estos proveedores. Las empresas de IA nacen y desaparecen muy rápido. Antes de comprar software de IA a una startup, quiero saber si la empresa seguirá existiendo dentro de unos años. ¿Y qué ocurre con mis datos si la empresa es adquirida o desaparece?
Estrategias para adaptarse al cambio acelerado en los procesos de compra de software
El villano de esta historia es la suposición de que algunos aspectos de tu entorno informático seguirán siendo los mismos. Pero nada permanecerá igual. La IA lo está cambiando radicalmente todo, incluidas las aplicaciones de software que ya has comprado y que has estado utilizando durante años. Por lo tanto, a medida que renueves el software y compres nuevas herramientas basadas en IA, ciertos aspectos de tu proceso de compra tendrán que cambiar. Estas seis prácticas recomendadas serán fundamentales:
Supervisa los cambios en los MSA
En esta era de la IA, las renovaciones de software requieren una mayor auditoría. En primer lugar, habla con tus proveedores principales que están implementando la IA. Pregúntales directamente: ¿Cómo estáis gestionando mis datos? ¿Se almacenan en el mismo entorno que los datos de tus otros clientes?
Cuando renueves licencias de software que ya hayas adquirido, captura y revisa los términos actualizados que se incluyen en los hipervínculos de los MSA. Asegúrate de que los nuevos términos incorporados no entren en conflicto con tus políticas de IA y gobernanza de datos.
Con algunas de tus aplicaciones existentes, es posible que nunca hayas revisado los acuerdos. Tal vez empezaste con una implementación muy pequeña y decidiste que no era necesario. Sin embargo, si amplías la implementación y cambias a un acuerdo empresarial, invierte tiempo en esa revisión. Podrías establecer una política que exija una auditoría de los términos y condiciones cuando el tamaño de una implementación de software alcance un determinado umbral.
Este trabajo de interactuar directamente con los proveedores y revisar los MSA actualizados podría requerir importantes recursos. Al fin y al cabo, algunas organizaciones utilizan cientos de aplicaciones SaaS. Aun así, encontrar una forma de estar al día sobre la evolución de los acuerdos será fundamental para mantener la seguridad.Pregunta sobre la protección de datos
Más allá de entender cómo se almacenan y gestionan los datos, pregunta cómo se protegen. Un proveedor de software podría implementar una instancia de su aplicación para cada cliente, y luego proteger cada instancia utilizando una gama completa de servicios de seguridad de aplicaciones.
Otro proveedor podría utilizar una única base de datos para todos sus clientes, lo cual debería ser una señal de alarma. Sin embargo, si pueden demostrar que utilizan una encriptación o tokenización de datos suficiente, que garantice que la información confidencial no puede quedar expuesta, puede que aún estés dispuesto a utilizar ese software.Evalúa las prioridades de los proveedores
En cuanto a los proveedores más recientes que ofrecen herramientas de IA, evalúa sus prioridades estratégicas para determinar si son una buena opción a largo plazo para tu organización. Supongamos que has estado utilizando software de una startup y has tenido algunos problemas con ese producto. Entonces te enteras de que la startup acaba de conseguir una nueva ronda de financiación. Pregúntales cómo tienen previsto gastar ese dinero. Si la respuesta se refiere a ventas y no a ingeniería, busca en otra parte.Compara las notas dentro de tu comunidad
Una forma de reducir la carga de trabajo de revisar todos esos MSA y evaluar nuevos proveedores es comparar las notas con otros líderes tecnológicos. Pregunta a tus compañeros: ¿Qué tendencias de términos y condiciones observas en los proveedores? ¿Te parecen bien los cambios?
Del mismo modo, busca información sobre los proveedores de IA que estés considerando. Pregunta a otros directivos: ¿Qué confianza tienes en que tus datos seguirán protegidos si esta empresa cierra?Prepárate para marcharte
Medir los riesgos que plantea el software basado en IA puede ser muy difícil. Así que, tanto si estás renovando software como evaluando una nueva aplicación, pregúntate si te sientes cómodo con un riesgo que no puedes medir con precisión.
En algunos casos, puedes decidir que el riesgo potencial es mayor que el valor potencial. Podrías dejar de utilizar software que ha creado riesgos inaceptables con la incorporación de capacidades de IA. Podrías decidir no adoptar una nueva aplicación de IA porque no confías en la seguridad de tus datos o en el futuro del proveedor.
También hay un término medio. Por ejemplo, podrías esperar a que una startup madure antes de comprar su software. O podrías hacer que demuestren el valor de su aplicación utilizando una selección reducida de funciones, o un subconjunto de tus datos.Plantéate desarrollar en lugar de comprar
Muchos proveedores de SaaS con productos mejorados con IA quieren llegar a una amplia gama de clientes. En consecuencia, diseñan sus productos para el mínimo común denominador entre esos clientes potenciales.
Sin embargo, como CISO, quiero un software que sea de gran utilidad para mi organización. Por ejemplo, quiero utilizar herramientas de IA que puedan reducir la carga cognitiva de mis empleados, permitiéndoles ser más productivos y eficientes dentro de nuestra organización. Esas herramientas deberían aprovechar mis datos y ayudar a que toda mi empresa funcione mejor. El problema es que es difícil encontrar software listo para usar que responda a las necesidades concretas de mi organización.
Por lo tanto, en algunos casos, tendrá más sentido desarrollar que comprar. Si puedes crear capacidades que beneficien a tu empresa y ofrezcan un valor competitivo, al mismo tiempo que minimizas el riesgo, el desarrollo podría ser un camino mejor. La plataforma para desarrolladores adecuada puede ayudar a acelerar la creación de esas aplicaciones de IA.
Prepárate para la revolución de la IA en la compra de software
Todos sentimos la presión de adoptar la IA y transformar nuestras organizaciones. Los proveedores de software están deseando facilitar esa transformación, y están integrando rápidamente nuevas funciones de IA en sus productos. Como resultado, los responsables de la compra de software debemos estar atentos. Es como si las reglas para la compra de software estuvieran cambiando. Y hoy en día, tenemos que evaluar más detenidamente cómo las innovaciones de software afectan a la seguridad.
No todas las aplicaciones ofrecerán el valor suficiente para la cantidad de riesgo que estamos dispuestos a aceptar. En esos casos, la creación de aplicaciones de IA podría ser el enfoque adecuado. La plataforma para desarrolladores de Cloudflare puede ayudar a agilizar el proceso de desarrollo y entrega de aplicaciones de IA. Con Cloudflare Workers AI, puedes desarrollar y ejecutar aplicaciones de IA en el perímetro, cerca de los usuarios. Mientras tanto, AI Gateway proporciona visibilidad y control sobre cómo los usuarios utilizan las aplicaciones de IA.
Incluso si solo esperas mantener el statu quo con algún software empresarial, ten en cuenta que es probable que las capacidades de la IA empiecen a aparecer incluso en esas aplicaciones heredadas, y eso te obligará a cambiar tu proceso de compra. La preparación para esta gran revolución de la IA en la compra de software será esencial para mitigar el riesgo.
Este artículo forma parte de un conjunto de publicaciones sobre las últimas tendencias y temas que afectan a los responsables de la toma de decisiones sobre tecnología en la actualidad.
Más información sobre este tema
Más información sobre cómo la IA está cambiando la forma en que funcionan las empresas y cómo aprovecharla de forma inteligente y segura en el libro electrónico "Garantizar prácticas seguras para el uso de la IA | Guía del CISO sobre cómo crear una estrategia de IA escalable".
Autor
Mike Hamilton –@mike-hamilton-us
Director de informática, Cloudflare
CONCLUSIONES CLAVE
Después de leer este artículo podrás entender:
Las capacidades de IA se están incorporando a acuerdos contractuales vigentes de forma encubierta
6 prácticas recomendadas que debes tener en cuenta al comprar o renovar software
Cómo garantizar la conformidad de las políticas de IA y gobernanza de datos