Implicações legais na implementação de chatbots

Recentemente, episódios problemáticos relacionados ao uso de chatbots alimentados por inteligência artificial (IA) destacaram a importância de garantir que essas ferramentas forneçam informações precisas e confiáveis aos consumidores. Incidentes nos quais chatbots prestaram informações incorretas ou confusas, causando transtornos aos clientes e danos à imagem das empresas, evidenciam a necessidade urgente de uma abordagem ética e implicações legais bem-delineadas para o desenvolvimento e aplicação da tecnologia.

Case: responsabilidade legal de soluções de IA

Um incidente recente envolvendo o chatbot de uma grande companhia aérea resultou em prejuízo para um passageiro que buscava informações sobre tarifas reduzidas para reagendamento de viagens de última hora devido a tragédias. O assistente de inteligência artificial (IA) informou erroneamente sobre a possibilidade de descontos, levando o passageiro a adquirir passagens com preços abaixo dos praticados. Posteriormente, ao buscar o desconto prometido, o passageiro descobriu que os bilhetes não poderiam ser emitidos e que a informação era falsa.

A companhia alega que o assistente virtual é uma entidade legal separada responsável por suas próprias ações. O caso foi levado à Justiça, e o tribunal do país decidiu a favor do passageiro, determinando reembolso do excedente pago, taxas judiciais e juros proporcionais. O juiz enfatizou que o passageiro não tinha motivo para discernir a precisão das diferentes seções da página da empresa.

Legislação digital

A sociedade está imersa em ambientes tecnológicos impulsionados pela IA, promovendo debates globais sobre a necessidade de regulamentação para proteger os direitos individuais. A União Europeia propõe o AI Act, visando garantir segurança, respeito aos direitos humanos e inovação no mercado digital. No Brasil, o Projeto de Lei nº 2.338/2023 é inspirado na proposta europeia.

A governança surge, então, como componente essencial, definindo aspectos fundamentais a respeito da autonomia individual, precaução, equidade e transparência. O futuro da IA depende da capacidade das organizações de integrar esses princípios, promovendo um uso responsável e benéfico para a sociedade, o que inclui a responsabilização pelo desenvolvimento de ferramentas, como os chatbots.

Além do dever legal, existem diversas estratégias que podem ser utilizadas para que as empresas evitem incidentes éticos e já estejam em preparação para regulamentações futuras. A Zenvia, empresa que habilita experiências fluidas para o consumidor e atua na jornada do cliente de ponta a ponta, compartilha abaixo as principais iniciativas relacionadas:

Parcerias

Parcerias estratégicas desempenham um papel fundamental na construção de chatbots confiáveis. Ao optar por incorporar a ferramenta nas estratégias de atendimento ao cliente, as empresas devem buscar colaborações com parceiros tecnológicos confiáveis. A seleção de associados comprometidos com padrões éticos não apenas assegura a qualidade técnica do chatbot, mas também contribui para a confiabilidade e eficácia das informações transmitidas.

Cultura data-driven

Uma cultura organizacional orientada por dados é um pilar essencial para a ética em chatbots. Incentivar a coleta e análise de dados precisos dentro da empresa não apenas gera melhoria na qualidade das informações fornecidas pelos chatbots, como também cria uma base sólida para uma experiência do cliente positiva. Dados confiáveis e em abundância são cruciais para a tomada de decisões assertivas, permitindo que os chatbots forneçam respostas precisas e personalizadas.

Implementação de model cards

A utilização de model cards é uma estratégia valiosa para garantir transparência. Esses documentos fornecem uma visão clara do desempenho do chatbot, ajudando os usuários a entender suas capacidades e limitações. Isso não só atende aos princípios éticos, mas também facilita a conformidade com regulamentações futuras.

Comitês internos de governança

Estabelecer comitês internos de governança, responsáveis por definir diretrizes adicionais para os modelos de IA, é uma prática eficaz. Compostos por especialistas, podem garantir que os chatbots estejam alinhados com os valores e padrões éticos da empresa.

Ao integrar essas estratégias, as empresas reduzem a chance de incidentes e aprimoram as ferramentas derivadas da IA, desenvolvendo soluções que respeitem padrões legais, priorizando a transparência e a confiança na interação entre empresas e clientes.