A Deloitte Austrália reembolsou parcialmente o governo australiano por um relatório de bem-estar social contaminado por IA, que continha citações fabricadas e referências inexistentes. O relatório, produzido com o ChatGPT-4o da Microsoft, levou a empresa a admitir erros e prometer um reembolso parcial do contrato de $440.000. Simultaneamente, a Deloitte anunciou uma grande implantação de IA generativa para 470.000 funcionários usando a tecnologia da Anthropic.
E daí?
Este incidente destaca os riscos de confiar demais em IA sem verificação humana adequada, especialmente em setores onde a credibilidade é fundamental. A utilização de IA generativa sem supervisão resultou em informações imprecisas e fabricadas, comprometendo a integridade do relatório e a reputação da Deloitte.
O que muda?
A falha da Deloitte exige uma reavaliação das práticas de governança de IA e da necessidade de 'cadeias de custódia' para saídas assistidas por IA. Empresas e conselhos devem exigir transparência, rastreabilidade e verificação humana em todos os processos envolvendo IA, a fim de evitar erros dispendiosos e danos à reputação. A responsabilidade e a transparência tornam-se imperativos na era da inteligência artificial.