Avanço dos modelos autônomos exige mais atenção aos requisitos de privacidade dos consumidores
No ecossistema global de serviços financeiros, surge uma questão-chave sobre a atuação dos assistentes de inteligência artificial (IA) na relação com consumidores. Afinal, quem vai controlar os assistentes de IA que lidam com o dinheiro? A questão está no rol das considerações críticas apontadas pelo relatório “Commerce of Tomorrow, Today – Pushing the boundaries of commerce”, resultado de uma parceria do Institute for the Future (IFTF) com a Visa.
No documento, que, no Brasil, foi traduzido como “O Comércio do Amanhã, hoje”, há recomendações sobre a necessidade de recuperar, proteger e cultivar a confiança de bilhões de consumidores em um cenário global hiper conectado com evolução escalonada da IA.
A diretora de produtos de inovação para a Visa América Latina e Caribe, Romina Seltzer, declarou, na data de publicação do relatório (13 de maio) que, no varejo, diante de um cenário de evolução de IA a uma velocidade sem precedentes, a confiança e a transparência são requisitos cruciais.
IA Agêntica: tomada de decisão em tempo real
O mundo assiste à rapidez da transição dos modelos de IA: daquele que atua com parâmetros predefinidos e precisa da intervenção humana, para a IA agêntica, baseada em modelos de learning machine (“aprendizado de máquina”) que buscam reproduzir os processos de tomada de decisão humana para resolver problemas em tempo real. Essa virada de chave requer um novo olhar para as relações de consumo.
A IA agêntica utiliza técnicas da IA generativa com grandes modelos de linguagem (LLMs), portanto, tem uma atuação mais dinâmica. A adoção dessa tecnologia requer mais acuracidade nos requisitos de segurança e privacidade em relações de consumo, sobretudo na área financeira.
O estudo aponta que os clientes de serviços financeiros vão exigir transparência nas atividades relacionadas aos assistentes de IA, independentemente de quem será o controlador desse processo.
Ainda que seja complexo indicar com precisão o futuro das relações de consumo em um ambiente com prevalência da IA, Dylan Hendricks, diretor do Institute for the Future, observa que as mudanças não afetarão somente a forma de adquirir produtos e serviços, mas toda a estrutura dos negócios.
Segmentação e camadas de confiabilidade
O levantamento feito pelo IFTF e a Visa chama atenção para as relações de confiança dos clientes e comunidades com as instituições que estão evoluindo nas aplicações de IA. A interação com agentes de IA vai alterar o paradigma da privacidade e abrir caminho para cultivar novos níveis de relacionamento de confiança.
No Brasil, o estudo aponta que os consumidores valorizam muito a transparência e a segurança para estabelecerem relações pautadas na confiança. Esse comportamento reflete outras tendências semelhantes em todo o mundo. Segundo o relatório, os níveis mais altos de confiança são evidenciados em marketplaces on-line (56%), enquanto os níveis mais baixos estão relacionados a plataformas de mídias sociais (26%) e influenciadores (13%).
O documento destaca ainda as oportunidades de segmentação. À medida que assistentes de IA se tornam padrão em serviços financeiros, a interação humana pode compor uma oferta premium, transformando alguns serviços em uma exclusividade.
Em alguns países mais avançados na oferta de serviços digitais, como Cingapura e Emirados Árabes Unidos, os projetos pilotos em bancos vêm avançando rapidamente, aponta o relatório. No entanto, os níveis de conforto dos clientes quando a IA lida com decisões de investimentos, por exemplo, ainda variam muito. O estudo mostra que “a maioria das pessoas deseja ver estes sistemas se mostrarem confiáveis antes de delegar decisões financeiras”.
Outro ponto de reflexão, segundo o estudo, é a complexidade da regulamentação da IA, que se torna cada vez mais sensível globalmente. Em países em que o arcabouço regulatório na área financeira aumenta a dose de cautela, as instituições vão avançar mais lentamente na implantação de serviços de IA.
