Experiência muda o resultado do uso de IA: especialistas identificam erros que iniciantes tendem a aceitar

Experiência muda o resultado do uso de IA: especialistas identificam erros que iniciantes tendem a aceitar

Duas pessoas recebem a mesma recomendação produzida por inteligência artificial. Uma delas conhece profundamente o assunto, percebe uma inconsistência e decide investigar antes de seguir. A outra encontra uma explicação convincente e aceita a sugestão sem ter referências suficientes para questioná-la. Esse contraste apareceu de forma concreta em um estudo recente de pesquisadores do MIT e de outras instituições, publicado na Nature Medicine. O trabalho avaliou médicos e pessoas sem formação clínica em tarefas de diagnóstico dermatológico com diferentes formas de apoio de IA. O estudo pertence a um contexto médico específico e não deve ser tratado como prova de que o mesmo comportamento ocorrerá em qualquer atividade empresarial. Ainda assim, oferece um sinal importante para organizações que distribuem ferramentas de IA entre pessoas com níveis muito diferentes de experiência. A mesma explicação produziu efeitos diferentes conforme o usuário Os pesquisadores observaram que o apoio de IA melhorou o desempenho geral dos participantes, mas a forma como cada grupo chegou ao resultado foi diferente. Pessoas sem formação médica mostraram maior tendência a seguir explicações produzidas por modelos de linguagem, inclusive quando a recomendação estava errada. Já os profissionais de saúde foram mais capazes de confrontar a resposta com conhecimento prévio e reconhecer inconsistências. O resultado chama atenção porque uma explicação plausível pode aumentar confiança sem necessariamente aumentar a capacidade de verificar se a recomendação está correta. Em ambientes de trabalho, esse risco aparece sempre que uma pessoa usa IA para entrar em um assunto que ainda não domina e não possui referências independentes para testar a resposta. Disponibilizar a mesma ferramenta para todos não cria a mesma condição de uso Uma política corporativa costuma definir quais ferramentas estão autorizadas e quais informações podem ser utilizadas. O estudo acrescenta outra dimensão: quem está recebendo a recomendação e quanto conhecimento essa pessoa possui para avaliá-la. Um analista experiente pode usar a IA para levantar hipóteses e acelerar uma comparação porque já conhece os critérios necessários para julgar o resultado. Uma pessoa iniciando na função pode interpretar a mesma resposta como uma referência pronta, principalmente quando o texto é claro e seguro na forma de apresentar a conclusão. Por isso, a experiência do usuário precisa entrar no desenho da aplicação junto com o risco da tarefa e a capacidade de revisão. A ordem da interação também influencia o julgamento O estudo encontrou outro detalhe relevante: quando a explicação da IA aparecia antes de a pessoa formular sua própria hipótese, a tendência de seguir o sistema aumentava. Esse achado sugere uma alternativa simples para algumas tarefas: pedir que a pessoa registre uma leitura inicial antes de consultar a IA. Depois, a ferramenta pode ser usada para confrontar hipóteses, encontrar lacunas ou sugerir outras possibilidades. Em atividades de maior impacto, preservar algum raciocínio independente antes da recomendação pode reduzir o risco de a resposta da ferramenta se transformar no ponto de partida de toda a análise. A revisão precisa acompanhar experiência e consequência Nem toda tarefa exige o mesmo nível de controle. Revisar a estrutura de um texto interno envolve uma consequência diferente de validar uma análise financeira, recomendar uma decisão para um cliente ou interpretar uma informação técnica sensível. Ao combinar impacto da tarefa e experiência de quem utiliza a IA, a empresa consegue definir formas de revisão mais proporcionais. Usuários menos experientes podem precisar de critérios mais explícitos, fontes obrigatórias ou uma segunda validação. Profissionais seniores podem trabalhar com maior autonomia, desde que o processo continue registrando decisões relevantes. A empresa pode manter controles proporcionais, evitando burocracia desnecessária e a suposição de que acesso à mesma tecnologia produz automaticamente a mesma qualidade de decisão. Métricas agregadas podem esconder diferenças entre grupos Uma empresa pode acompanhar adoção e concluir que a ferramenta funciona porque o resultado médio melhorou. Esse número pode esconder grupos que se beneficiam mais e outros que incorporam erros com maior frequência. Quando a aplicação apoia decisões relevantes, vale observar qualidade, retrabalho e necessidade de correção por perfil de usuário ou tipo de tarefa. Também é útil identificar em quais situações as pessoas aceitam a primeira resposta sem buscar evidências adicionais. Essas informações ajudam a ajustar treinamento, desenho do fluxo e nível de supervisão sem transformar toda a organização em um único padrão de uso. A capacidade de julgar continua sendo parte da aplicação O estudo mostrou ganhos de desempenho para pessoas menos experientes em parte das tarefas. O cuidado aparece quando uma recomendação errada parece convincente e o usuário não possui repertório suficiente para perceber o problema. Para empresas, a implicação é prática. Implantar IA envolve decidir o que a ferramenta fará e também como cada grupo vai interagir com suas recomendações. Em processos que exigem julgamento, experiência humana, ordem da análise, evidências disponíveis e critérios de revisão continuam compondo o sistema de decisão. A tecnologia faz parte desse conjunto e precisa ser incorporada a um fluxo desenhado com critérios claros.