Como a IA está causando disrupção nas compras de software
Criar uma estratégia vencedora que reduza os riscos relacionados à IA
O mundo piscou e a IA, de repente, está em todos os lugares. As organizações estão usando a IA generativa (GenAI) para fornecer suporte ao cliente 24 horas por dia, produzir recomendações de compras personalizadas, acelerar o desenvolvimento de softwares, criar conteúdo de marketing e muito mais.
Hoje, a IA é tão impactante e disruptiva quanto o computador foi quando foi introduzido pela primeira vez no mundo dos negócios. Se uma empresa não adotar a IA, ela pode rapidamente se tornar irrelevante.
Então, CIOs e CISOs estão sob enorme pressão para lançar iniciativas de IA. Espera-se que adotem novas soluções de software baseadas em IA e que deem aos funcionários acesso a ferramentas de IA. Mas, ao mesmo tempo, esses líderes de tecnologia entendem que a IA introduz novos riscos. Muitos estão implementando rapidamente políticas e proteções para proteger informações confidenciais, evitar a IA oculta e reduzir a probabilidade de gerar informações incorretas.
Ao mesmo tempo em que os líderes de tecnologia tentam encontrar o equilíbrio adequado entre a habilitação da IA e a governança de seu uso, eles devem modificar seu processo de compra e renovação de software. Se a compra de software às vezes parece um jogo, então a IA está mudando as regras. Seguir as regras antigas coloca as organizações em risco. Para reduzir esse risco, CIOs e CISOs precisam intensificar o escrutínio de contratos de software, arquiteturas de aplicativos e os próprios fornecedores de software.
Desafio nº 1: mudar os contratos de software
À medida que os fornecedores de software integram a IA em mais e mais de seus produtos, CIOs e CISOs precisam mudar a forma como lidam com as renovações de software. Para os softwares que já comprou, você provavelmente assinou um contrato mestre de serviços (MSA) e concordou com certos termos. Mas alguns desses termos têm hiperlinks para outros documentos. Quando o software é atualizado, os fornecedores podem alterar o conteúdo desses documentos com hiperlinks, e você provavelmente não saberá, a menos que revise continuamente os MSAs.
O problema é que quaisquer novos recursos de IA integrados ao aplicativo podem entrar em conflito com suas políticas de IA e de governança de dados. Na corrida para fornecer um software aprimorado com IA, os fornecedores do software existente podem estar colocando suas políticas e sua segurança em risco.
Desafio nº 2: Multilocação e criação de modelos
Ao avaliar soluções de SaaS, sempre tenho o cuidado de entender como os fornecedores lidam com a multilocação. Especificamente, quero saber o que eles fariam com meus dados. Os meus dados vão ficar totalmente separados dos de todas as outras pessoas?
Agora que os fornecedores estão incorporando a IA em seus produtos, podem haver alguns problemas de segurança adicionais relacionados à forma como os fornecedores lidam com os dados. Primeiro, muitos fornecedores não estão hospedando seus próprios serviços de IA. Eles podem estar executando esses serviços em uma nuvem pública. E esse fornecedor de nuvem pode não estar protegendo os dados de forma adequada.
Em segundo lugar, os fornecedores de software provavelmente estão usando os dados de clientes para treinar seu modelo de IA, independentemente de onde esse modelo esteja. Agora, é verdade que quero que meus fornecedores de software sejam especialistas em como a IA pode beneficiar seus clientes em seus domínios. Por exemplo, se um fornecedor tem um aplicativo de recursos humanos aprimorado por IA, quero que esse fornecedor seja o melhor do mundo no fornecimento desse tipo de software. E o melhor fornecedor será aquele que tiver mais dados para treinar seu modelo.
No entanto, não quero que eles usem meus dados confidenciais para treinamento de modelos. Alguns fornecedores podem misturar intencionalmente dados de vários clientes para treinar seus modelos. Mas no mínimo, antes de comprar um software, preciso estar convencido de que todos os meus dados serão completamente anonimizados antes de serem usados para treinar o modelo de um fornecedor.
Desafio nº 3: A (falta de) longevidade dos fornecedores de IA
Novos fornecedores de software de IA surgem o tempo todo, como um fluxo constante de equipes de expansão em uma liga profissional de esportes. Além das empresas de tecnologia muito grandes e bem estabelecidas que estão introduzindo novos recursos de IA, as startups de IA, focadas apenas em software ou ferramentas baseadas em IA, estão se multiplicando rapidamente. Quando até a OpenAI parece um player consolidado, significa que o mercado está mudando rápido demais.
Eu avalio esses novos fornecedores usando critérios semelhantes aos fornecedores de aplicativos legados. Quero saber, por exemplo, como esses fornecedores estão mantendo meus dados protegidos e separados dos dados de outros clientes.
Mas também estou muito preocupado com a longevidade desses fornecedores As empresas de IA estão crescendo e desaparecendo muito rapidamente. Antes de comprar software de IA de uma startup, quero saber se a empresa ainda existirá daqui a alguns anos. E o que acontece com os meus dados se a empresa for adquirida ou fechar?
Estratégias para mudar rapidamente a compra de software
O vilão dessa história é a suposição de que alguns aspectos do seu ambiente de TI permanecerão os mesmos. Mas nada vai permanecer igual. A IA está mudando fundamentalmente tudo, incluindo os aplicativos de software que você já comprou e usa há anos. Portanto, à medida que você renova o software e compra novas ferramentas baseadas em IA, aspectos do seu processo de compra terão que mudar. Essas seis melhores práticas são fundamentais:
Monitorar as alterações de MSAs
Nesta era da IA, as renovações de software exigem maior due diligence. Primeiro, tenha uma conversa com seus principais fornecedores que estão implementando IA. Pergunte diretamente a eles: Como você está lidando com meus dados? Eles estão sendo armazenados no mesmo ambiente que os dados de seus outros clientes?
Ao renovar licenças de um software que você já comprou, capture e revise os termos atualizados que têm hiperlinks nos MSAs. Certifique-se de que os termos introduzidos recentemente não entrem em conflito com suas políticas de IA e de governança de dados.
Para alguns dos seus aplicativos existentes, é possível que você nunca tenha revisado os contratos. Talvez você tenha começado com uma implantação muito pequena e decidiu que não era necessário. No entanto, se você escalar a implantação e mudar para um contrato empresarial, invista algum tempo para fazer essa análise. Você pode estabelecer uma política que exija uma auditoria dos termos e condições quando um tamanho de implantação de software atingir um determinado limite.
Esse trabalho de contato direto com fornecedores e análise de MSAs atualizados pode exigir recursos significativos. Afinal, algumas organizações usam centenas de aplicativos SaaS. Ainda assim, encontrar uma maneira de se manter atualizado sobre a evolução dos contratos será fundamental para manter a segurança.Perguntar sobre proteção de dados
Além de entender como os dados são armazenados e gerenciados, pergunte como eles são protegidos. Um fornecedor de software pode implantar uma instância de seu aplicativo para cada cliente e, em seguida, defender cada instância usando uma gama completa de serviços de segurança de aplicativos.
Outro fornecedor pode usar um grande banco de dados para todos os seus clientes. Isso deve ser um sinal de alerta. No entanto, se eles puderem provar que estão criptografando ou tokenizando dados de forma competente, garantindo que informações confidenciais não possam ser expostas, é possível que você ainda queira usar esse software.Avaliar as prioridades dos fornecedores
Com fornecedores mais novos que oferecem ferramentas de IA, avalie suas prioridades estratégicas para determinar se eles são uma boa opção no longo prazo para sua organização. Digamos que você esteja usando um software de uma startup e tenha alguns problemas com esse produto. Você fica sabendo que a startup acabou de fazer uma nova rodada de financiamento. Pergunte a eles como planejam gastar esse dinheiro. Se a resposta for vendas e não engenharia, procure outro lugar.Comparar as observações na sua comunidade
Uma maneira de reduzir a carga de trabalho de analisar todos esses MSAs e avaliar novos fornecedores é comparar as observações com outros líderes de tecnologia. Pergunte aos seus colegas: quais tendências de termos e condições você está observando entre os fornecedores? Você está de acordo com as mudanças?
Da mesma forma, procure insights sobre os fornecedores somente de IA que você está considerando. Pergunte a outros líderes: qual é o seu grau de confiança em relação à continuidade da proteção de seus dados se esta empresa falir?Estar preparado para desistir
Medir os riscos introduzidos pelo software baseado em IA pode ser muito difícil. Portanto, se estiver renovando um software ou avaliando um novo aplicativo, pergunte a si mesmo o quanto você se sente confortável com um risco que não consegue medir com precisão.
Em alguns casos, você pode decidir que o possível risco supera o possível valor. Você pode parar de usar o software que introduziu riscos inaceitáveis incorporando recursos de IA. Você pode decidir não adotar um novo aplicativo de IA porque não está confiante em relação à segurança de seus dados ou no futuro do fornecedor.
Também existe um meio termo. Por exemplo, você pode esperar que uma startup amadureça antes de comprar seu software. Ou você pode fazer com que eles provem o valor do aplicativo usando uma seleção reduzida de recursos ou um subconjunto de seus dados.Pensar em desenvolver em vez de comprar
Muitos fornecedores de SaaS com produtos aprimorados por IA desejam atingir uma ampla gama de clientes. Consequentemente, eles projetam seus produtos para o menor denominador comum entre esses clientes em potencial.
No entanto, como CISO, quero um software que atenda profundamente à minha organização. Por exemplo, quero usar ferramentas de IA que possam reduzir a carga cognitiva de meus funcionários, permitindo que eles sejam mais produtivos e eficientes dentro de nossa organização. Essas ferramentas devem se basear nos meus dados e, assim, ajudar toda a minha empresa a funcionar melhor. O problema é que é difícil encontrar softwares disponíveis no mercado que atendam às necessidades precisas da minha organização.
Portanto, em alguns casos, faz mais sentido desenvolver do que comprar. Se você puder produzir recursos que beneficiem sua empresa e agreguem valor competitivo, ao mesmo tempo que minimizem riscos, desenvolver pode ser um caminho melhor. A plataforma para desenvolvedores certa pode ajudar a acelerar a criação desses aplicativos de IA.
Prepare-se para a disrupção da IA na compra de software
Todos nós sentimos a pressão para adotar a IA e transformar nossas organizações. Os fornecedores de software estão ansiosos para facilitar essa transformação e estão integrando rapidamente novos recursos de IA em seus produtos. Como resultado, nós, responsáveis pela compra de software, precisamos ficar atentos: é como se as regras para a compra de software estivessem mudando. E hoje, precisamos avaliar com mais cuidado como as inovações de software afetam a segurança.
Nem todos os aplicativos oferecerão valor suficiente para o nível de risco que estamos dispostos a assumir. Nesses casos, desenvolver aplicativos de IA pode ser a abordagem certa. A plataforma para desenvolvedores da Cloudflare pode ajudar a agilizar o processo de desenvolvimento e distribuição de aplicativos de IA. Com o Cloudflare Workers AI, você pode desenvolver e executar aplicativos de IA na borda, perto dos usuários. Enquanto isso, o AI Gateway fornece visibilidade e controle sobre como as pessoas estão usando aplicativos de IA.
Mesmo que você espere apenas manter o status quo com algum software empresarial, reconheça que os recursos de IA provavelmente começarão a aparecer até mesmo nesses aplicativos legados, e isso forçará você a mudar seu processo de compra. A preparação para esta grande disrupção da IA na compra de software será essencial para mitigar os riscos.
Este artigo é parte de uma série sobre as tendências e os assuntos mais recentes que influenciam os tomadores de decisões de tecnologia hoje em dia.
Saiba mais sobre esse assunto
Saiba mais sobre como a IA está mudando a forma como as empresas funcionam e como aproveitá-la de forma inteligente e segura no e-book Garantir práticas seguras de IA: um guia para CISOs sobre como criar uma estratégia de IA escalável.
Autoria
Mike Hamilton – @mike-hamilton-us
CIO, Cloudflare
Principais conclusões
Após ler este artigo, você entenderá:
Os recursos de IA estão sendo adicionados a acordos contratuais existentes, sem que isso seja notado
Seis práticas recomendadas a serem consideradas ao comprar ou renovar software
Como garantir a conformidade da IA e das políticas de governança de dados