IA tendenciosa, imparcial e suas (in)finitas oportunidades em CX
Em uma versão bem resumida do conceito de IA – Inteligência Artificial é a inteligência que percebe, sintetiza e infere informações demonstradas por ou por máquinas. “Inteligência” abrange a capacidade de aprender e raciocinar, generalizar e inferir significado. Tarefas de exemplo que podem incluir, mas não se limitar a reconhecimento de fala ou idiomas e as respectivas traduções, cada vez mais precisas e contextualizadas ou, uma visão computacional, adaptada e inferida por parâmetros, guias e correlações bem como tantos outros mapeamentos de entradas para as pretendidas saídas ou resultados.
Com tantos cenários de infinitos propósitos onde se aplique a IA, constantemente teremos os mais distintos e finitos algoritmos, ou de maneira simplista, um conjunto das regras e procedimentos lógicos “perfeitamente” definidos que levam à solução de um problema em um número finito de etapas. As aspas anteriores, porém, pode nos remeter inquietantemente ao concatenado pensamento – Onde e como essa, inteligência “artificial” reagindo e inferindo via algoritmos, dependentes de dados, entradas ou direcionamentos que podem ser históricos, imperfeitos, tendenciosos ou não representativos de forma intencional ou não guardadas as devidas proporções e recortes possíveis irão moldar a experiência dos interlocutores, neste caso, nos humanos? Quais os vetores desta jornada? Como mitigar riscos, influenciar positivamente? Quais seriam os possíveis desdobramentos?
IA tendenciosa e CX:
Experiências negativas do cliente: suponha que o sistema de recomendação baseado em IA de uma plataforma de comércio eletrônico exiba viés e promova consistentemente produtos para determinados grupos de clientes, negligenciando outros. Esse tratamento tendencioso pode fazer com que os clientes negligenciados se sintam excluídos e frustrados com a plataforma.
Confiança perdida do cliente: imagine um chat-bot implantado por uma instituição financeira que exibe respostas ou recomendações tendenciosas com base na demografia do cliente. Esse comportamento tendencioso pode levar os clientes a perderem a confiança na instituição, impactando na retenção e fidelização dos clientes.
Alcance de mercado limitado: se o algoritmo de IA de um aplicativo de carona exibir viés, resultando em motoristas evitando ou cancelando desproporcionalmente as coletas em determinados bairros, o aplicativo pode não conseguir penetrar nesses mercados de maneira eficaz, limitando seu alcance geral e potencial de receita.
Riscos legais e regulatórios: suponha que um profissional de saúde use algoritmos de IA para determinar os planos de tratamento, mas esses algoritmos exibem viés racial ou de gênero nas recomendações. Esse tratamento tendencioso pode expor o provedor a desafios legais e escrutínio regulatório.
IA imparcial e CX:
Maior satisfação do cliente: imagine um assistente virtual usado por um varejista on-line que fornece recomendações personalizadas de produtos com base em dados imparciais do cliente, fazendo com que os clientes se sintam valorizados e atendidos. Essa maior satisfação do cliente pode levar a compras repetidas e boca a boca positivo.
Maior penetração no mercado: suponha que um aplicativo de entrega de comida garanta a atribuição algorítmica imparcial de motoristas de entrega, tratando todos os bairros igualmente. Essa abordagem permite que o aplicativo explore áreas anteriormente mal atendidas, expandindo sua penetração no mercado e atraindo uma base de clientes mais ampla.
Vantagem competitiva: se uma rede de hotéis implementar um sistema de reserva imparcial com inteligência artificial que forneça preços justos e informações de disponibilidade para todos os clientes, ela poderá se diferenciar dos concorrentes que podem exibir práticas tendenciosas. Isso pode atrair clientes que buscam prestadores de serviços inclusivos e éticos.
Conformidade com os regulamentos: imagine uma instituição de crédito que emprega um sistema de IA imparcial para pontuação de crédito, considerando uma ampla gama de fatores relevantes além da demografia. Essa abordagem garante a conformidade com as leis e regulamentos antidiscriminação, mitigando os riscos legais.
Mitigando vieses e potencializando a IA imparcial:
Abordar preconceitos nos dados de treinamento: por exemplo, uma plataforma de recrutamento que visa eliminar o preconceito de gênero na contratação pode garantir que os dados de treinamento usados para seus modelos de IA incluam um conjunto diversificado de currículos de candidatos de diferentes gêneros e origens.
Monitoramento e auditoria regulares: uma seguradora pode monitorar e auditar regularmente seu sistema de IA de avaliação de sinistros para identificar qualquer viés que possa resultar em tratamento desigual com base nas características ou dados demográficos do cliente.
Incorporando diretrizes éticas: uma plataforma de mídia social pode estabelecer diretrizes claras para sistemas de IA de moderação de conteúdo para garantir o tratamento imparcial dos usuários, evitando supressão ou favoritismo com base em crenças políticas, ou outros atributos confidenciais.
Feedback e transparência do usuário: uma plataforma de atendimento ao cliente pode buscar ativamente feedback dos usuários e comunicar abertamente como a IA é usada em seus processos de CX. Essa transparência gera confiança e permite a detecção precoce e a resolução de qualquer comportamento tendencioso.
No geral, alavancar a IA imparcial nos mercados de CX oferece às empresas a oportunidade de promover a inclusão, melhorar a satisfação do cliente e aumentar a participação no mercado. Também ajuda a mitigar os riscos legais e de reputação associados à IA tendenciosa. Ao abordar proativamente os preconceitos e adotar a justiça, as empresas podem desbloquear novas oportunidades e obter uma vantagem competitiva no mercado de CX.
Concentrix como parceira estratégica para uma IA imparcial:
O real entendimento sobre a experiência do cliente final é a chave para mitigar vieses da IA parcial. O processo de melhoria contínua vem se aprimorando ao longo dos últimos tempos para elevar a consistência nas análises e atender às necessidades do avanço tecnológico.
As avaliações sobre a satisfação do cliente final, que antes partiam de uma simples monitoria do atendimento, agora tomam uma proporção maior, partindo da correlação entre os dados fornecidos pela IA e o VOC (Voice of Customer). Este exercício nos favorece os primeiros percepções ou hipóteses que serão estudados, como, por exemplo:
- O aumento de vendas da plataforma e/ou aplicativo em uma determinada região foi concatenada com a satisfação dos clientes?
- O percentual de penetração esperado para uma região que não obteve êxito foi proveniente da recusa dos clientes? Foi realmente motivada pelo cliente ou pode ter ocorrido algum viés inesperado?
O processo de melhoria contínua atual e aprimorado é adaptável com diferentes meios de análises, volumes e tempo de conclusão conforme a complexidade de cada negócio.
O uso da transcrição das interações realizadas entre a central de atendimento e os clientes, a avaliação da jornada do cliente considerando todo o ciclo de relacionamento, e principalmente o conhecimento profundo da estratégia da marca do contratante são os meios usados para eliminar qualquer parcialidade da IA que vem entregando maior consistência e confiabilidade às decisões estratégicas.
