Por: Agnis Monfredini
No mundo digital em que vivemos, a inteligência artificial (IA) tem sido uma aliada cada vez mais presente, prometendo agilizar processos e fornecer soluções rápidas para diversas questões. No entanto, a IA não está isenta de falhas, como revelado por um incidente envolvendo a Air Canada e um de seus clientes, evidenciando os desafios e responsabilidades legais inerentes ao uso dessa tecnologia.
Um Chatbot Alucinante
No caso, Jake Moffatt, cliente da Air Canada, buscou assistência através do chatbot online da empresa, esperando resolver questões sobre uma tarifa de luto. Surpreendentemente, as respostas obtidas, guiadas pelo chatbot, prometiam um reembolso que contradizia as políticas da empresa. Este caso levanta um importante questionamento sobre a confiabilidade das informações fornecidas por chatbots baseados em IA.
Riscos e Responsabilidades
Para entender melhor como o direito se entrelaça com essa nova realidade, conversamos com Caio Prado, advogado especialista do escritório CBS Advogados. O advogado esclarece que tal risco é específico aos chatbots alimentados por inteligência artificial.
Enquanto os chatbots tradicionais funcionam com base em scripts pré-definidos, os chatbots de IA, apesar de treinados com vastas quantidades de dados, podem gerar informações incorretas ou “alucinações”, como visto no incidente da Air Canada.
Implicações Legais no Brasil
No caso de Moffatt, houve um reembolso parcial ordenado pela justiça. No Brasil, a situação do consumidor poderia ser ainda mais favorável. O direito do consumidor no país é robusto, responsabilizando as empresas por qualquer informação fornecida, seja por humanos ou sistemas automatizados. Se promessas são feitas, as empresas devem honrá-las, sublinhando a importância de uma gestão de riscos eficaz e da responsabilidade corporativa em corrigir os erros de suas IA.
Lições de Compliance
Este incidente serve como um alerta valioso para os profissionais de compliance e gestão de riscos. Reconhecer que a IA, por mais avançada que seja, não está imune a erros é fundamental. Implementar medidas como a transparência na origem das informações fornecidas pelo chatbot e a manutenção de registros detalhados das interações pode ajudar a mitigar riscos e aprender com os erros.
O exemplo da Air Canada destaca a importância de adotar uma abordagem cuidadosa e responsável na integração de tecnologias de IA nas operações empresariais. No CBS Advogados, reconhecemos a relevância de estar atualizados com as questões legais emergentes relacionadas às inovações tecnológicas.
Se sua empresa busca orientação especializada abrangendo desde o direito do consumidor até responsabilidade corporativa e compliance em IA, no CBS Advogados, comprometemo-nos a colaborar para identificar as soluções jurídicas mais adequadas, garantindo às empresas que estejam bem posicionadas para enfrentar os desafios legais de hoje e de amanhã.
Convidamos você a nos contatar para uma conversa construtiva sobre como podemos auxiliar no caminho do sucesso, com a segurança e a confiança que a expertise especializada oferece.
