Estudo da Genesys, quatro em cada cinco consumidores desejam uma governança clara nas interações com IA, mas menos de um terço das organizações possui políticas abrangentes atualmente
Novos dados divulgados pela Genesys revelam um descompasso crítico entre a forma como as empresas governam o uso da inteligência artificial e o que os consumidores consideram necessário para se sentirem seguros ao utilizá-la. Embora quatro em cada cinco consumidores entrevistados afirmem desejar uma governança clara nas interações com IA, menos de um terço (31%) dos líderes empresariais declara que suas organizações possuem políticas abrangentes e supervisão estruturada em toda a empresa para o uso da tecnologia.
À medida que a IA agêntica — sistemas autônomos capazes de pensar, agir e tomar decisões de forma independente — se torna cada vez mais presente nas estratégias de experiência do cliente (CX) das empresas, 91% dos líderes de CX entrevistados acreditam que essa tecnologia permitirá às organizações oferecer um atendimento mais rápido, eficaz e personalizado. No entanto, os dados revelam uma realidade complexa: apesar do entusiasmo em torno do potencial transformador da IA agêntica, as estruturas de governança ainda estão defasadas, o que representa riscos à confiança dos consumidores, à reputação das marcas e à conformidade regulatória.
“A IA agêntica está abrindo possibilidades promissoras para a forma como as organizações atendem seus clientes, mas conquistar a confiança dos consumidores precisa evoluir junto com esse progresso. À medida que esses sistemas assumem mais responsabilidades, é essencial que as empresas se mantenham transparentes e responsáveis em sua aplicação. Com mecanismos de controle adequados desde o início, é possível construir uma confiança duradoura, promovendo inovações responsáveis nas experiências do cliente que entreguem novos níveis de personalização e eficácia”, analisou Olivier Jouve, chief product officer da Genesys.
Falta de governança compromete a confiança
Mais de 90% dos líderes de experiência do cliente (CX) entrevistados concordam que uma governança robusta é essencial para: proteger a reputação da marca (91%), construir confiança e lealdade duradouras com os clientes (91%) e aumentar o conforto dos consumidores com sistemas autônomos (90%).
Apesar disso, muitas organizações ainda não estão preparadas. Mais de um terço dos líderes de CX (35%) admite que possuem pouca ou nenhuma política formal de governança em vigor. Mais preocupante ainda: 28% daqueles que não têm nenhuma política acreditam que suas organizações já estão prontas para implantar IA agêntica.
Essa lacuna de governança se torna ainda mais alarmante quando comparada às preocupações dos consumidores. Muitos permanecem receosos devido à falta de transparência sobre como seus dados são utilizados e à ausência de supervisão clara. De fato, a principal preocupação dos entrevistados foi a necessidade de clareza sobre como a IA utiliza seus dados pessoais.
A situação se agrava com a percepção de que a IA “alucina” ou fabrica informações: 37% dos consumidores acreditam que isso acontece, e essa visão é compartilhada por 59% dos líderes de CX, que reconhecem que essas falhas representam sérios riscos à lealdade dos clientes, à possibilidade de litígios e à reputação da marca. Essa percepção de falta de confiabilidade compromete ainda mais a confiança e reforça a urgência de estabelecer salvaguardas que garantam a precisão e a responsabilização nas experiências mediadas por IA.
Segundo Olivier, “a distância entre o que os líderes reconhecem como necessário e o que de fato foi implementado pelas organizações é especialmente preocupante diante da clara demanda dos consumidores por transparência e supervisão. Por isso, é fundamental que as empresas fechem essa lacuna antes de implementar a IA agêntica em larga escala”.
Confiança do consumidor permanece frágil
Embora 81% dos líderes de experiência do cliente (CX) confiem na IA agêntica para lidar com dados sensíveis de clientes, apenas 36% dos consumidores compartilham desse mesmo sentimento. Esse descompasso se torna ainda mais evidente em situações de maior risco.
As empresas demonstram alta confiança no uso da IA agêntica para funções críticas relacionadas ao cliente: 74% afirmam estar confortáveis em utilizar essa tecnologia para cobrança, transações financeiras e segurança de contas. Já os consumidores se mostram significativamente mais cautelosos: apenas 35% se sentem à vontade com a IA agêntica realizando transferências de dinheiro, 49% com a resolução de problemas de cobrança e 50% com a atualização de informações pessoais.
Ainda assim, os dados revelam uma oportunidade relevante. Mais da metade dos consumidores (58%) afirma não se importar se sua demanda é resolvida por um humano ou por uma IA, desde que o problema seja solucionado de forma rápida e completa. “Esse dado indica que a eficiência e a eficácia na experiência do cliente podem superar o ceticismo, mas somente quando acompanhadas de transparência e responsabilização. Para reduzir a lacuna de confiança e inovar de forma responsável, as organizações devem escalar o uso da IA agêntica com foco nas expectativas e necessidades dos consumidores”, concluiu o executivo.
