Opinião Sempre ouço falar de empresas que desejam demitir seus funcionários de call center e da linha de frente o mais rápido possível e substituí-los por IA. Eles são sinceros sobre isso.

O CEO da Meta, Mark Zuckerberg, disse recentemente que a empresa por trás Facebook estava demitindo funcionários “para que possamos investir nessas visões ambiciosas e de longo prazo em torno da IA.” Essa pode ser uma atitude realmente idiota. Basta perguntar à Air Canada.

A Air Canada descobriu recentemente da maneira mais difícil que quando seu chatbot de IA faz uma promessa para um cliente, a empresa tem que compensar isso. Opa!

No caso da Air Canada, um assistente virtual disse a Jake Moffatt que ele poderia obter um desconto por luto em seu voo já adquirido de Vancouver para Toronto por causa da morte de sua avó. O custo total da viagem sem desconto: CA$ 1,630.36. Custo com desconto: $ 760. A diferença entre não exatamente mil dólares pode ser um pequeno dinheiro para uma companhia aérea internacional, mas é dinheiro real para pessoas comuns. 

A assistente virtual disse a ele que, se comprasse uma passagem com preço normal, teria até 90 dias para reivindicar o desconto por luto. Um representante real da Air Canada confirmou que poderia obter o desconto por luto.

Mais tarde, quando Moffatt apresentou seu pedido de reembolso com a documentação necessária, a Air Canada recusou-se a pagar. Isso não funcionou bem para a empresa.

Moffatt levou a empresa a um tribunal de pequenas causas, alegando que a Air Canada foi negligente e deturpou sua política. A Air Canada respondeu, com efeito, que “O chatbot é uma entidade legal separada responsável por suas próprias ações."

Acho que não!

O tribunal concordou. “Esta é uma submissão notável. Embora um chatbot tenha um componente interativo, ele ainda é apenas uma parte do site da Air Canada. Deveria ser óbvio para a Air Canada que ela é responsável por todas as informações contidas em seu site. Não faz diferença se a informação vem de uma página estática ou de um chatbot.”

A estimativa de dinheiro para outras empresas prestarem atenção ao avançar com seus planos de IA é: “Acho que a Air Canada não tomou o cuidado razoável para garantir que seu chatbot fosse preciso”.

Este é um caso e os danos foram mínimos. A Air Canada foi condenada a devolver a Moffatt o reembolso que lhe era devido. No entanto, as empresas precisam de saber que são tão responsáveis ​​pela precisão dos seus chatbots de IA como o são pelos seus funcionários de carne e osso. É simples assim.

E adivinha? AI LLMs muitas vezes não estão certos. Eles não estão nem perto. De acordo com um estudo realizado pelas organizações sem fins lucrativos AI Forensics e AlgorithmWatch, um terço das respostas do Microsoft Copilot continha erros factuais. São muitos processos judiciais em potencial!

Como disse Avivah Litan, analista vice-presidente do Gartner com foco em IA, se você permitir que seus chatbots de IA sejam sua linha de frente de atendimento ao cliente, sua empresa “acabará gastando mais com honorários advocatícios e multas do que ganham com ganhos de produtividade.”

O advogado Steven A. Schwartz sabe tudo sobre isso. Ele confiou no ChatGPT para encontrar casos anteriores para apoiar seu caso. E o Chat GPT encontrou casos anteriores bastante corretos. Houve apenas um pequeno problema. Seis dos casos que ele citou não existiam. O juiz distrital dos EUA, P. Kevin Castel, não achou graça. O juiz multou-o em US$ 5,000, mas poderia ter sido muito pior. Qualquer pessoa que cometa um erro semelhante no futuro provavelmente não enfrentará tal indulgência.

A precisão por si só não é o único problema. Preconceitos embutidos em seus Grandes Modelos de Linguagem (LLMs) também podem incomodar você. O Grupo iTutor posso te contar tudo sobre isso. Esse a empresa perdeu uma ação judicial de US$ 365,000 para a Comissão de Igualdade de Oportunidades de Emprego (EEOC) dos EUA porque o software de recrutamento baseado em IA rejeitou automaticamente candidatos do sexo feminino com 55 anos ou mais e candidatos do sexo masculino com 60 anos ou mais.

Até hoje, o maior erro causado pela dependência da IA ​​foi o erro crasso da empresa imobiliária residencial americana Zillow na precificação de imóveis.

Em novembro de 2021, a Zillow encerrou seu programa Zillow Offers. Este programa de IA aconselhou a empresa a fazer ofertas em dinheiro para casas que seriam reformadas e reformadas. No entanto, com uma taxa de erro média de 1.9% e taxas de erro de até 6.9%, a empresa perdeu muito dinheiro. Quanto? Experimente uma redução de estoque de US$ 304 milhões em apenas um trimestre. Ah, e a Zillow demitiu 25% de sua força de trabalho. 

Não sou ludita, mas a verdade é que a IA ainda não é confiável o suficiente para os negócios. É uma ferramenta útil, mas não substitui os trabalhadores, sejam eles profissionais ou funcionários de suporte técnico. Em alguns anos, a história será diferente. Hoje, você está apenas procurando problemas se confiar na IA para melhorar seus resultados financeiros. ®

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/02/23/opinion_column/