Uma das críticas mais relevantes ao design moderno de inteligência artificial vem da palestra de 1992 do pesquisador Mark Weiser, que se opôs à metáfora do "copiloto" para a IA. Embora tenha se passado 33 anos, suas observações continuam pertinentes para quem trabalha com a IA hoje.

Weiser discursava em um evento do MIT Media Lab sobre "agentes de interface", discutindo como criar assistentes pessoais que automatizam tarefas e compreendem o contexto do usuário. Durante a apresentação, um "butler" humano estava no palco representando um agente de IA, e a plateia estava entusiasmada com a ideia. No entanto, Weiser estava cético em relação a esses agentes. Ele deu um exemplo provocativo: como um computador poderia ajudar um piloto a evitar colisões aéreas?

Ele apontou que a opção do "copiloto" seria um humano virtual que gritaria instruções em situações de emergência, como "colisão, siga para a direita e para baixo!" Em contraste, Weiser sugeriu projetar o cockpit de forma que o piloto estivesse naturalmente ciente do ambiente ao seu redor, afirmando: "Você não colidiria com outro avião da mesma forma que não tentaria atravessar uma parede."

O objetivo de Weiser era criar um "computador invisível", que não chamasse a atenção do usuário, mas se tornasse uma extensão de seu corpo. Ele acreditava que a tecnologia deveria se integrar de maneira tão sutil que o usuário passasse a ter novas percepções.

Um exemplo contemporâneo que ilustra a filosofia de Weiser é o Head-Up Display (HUD) em aviões, que sobrepõe informações de voo diretamente no campo de visão do piloto. Ao contrário de um copiloto, o HUD não exige interação verbal; ele aumenta a percepção do piloto, quase como se tivesse "olhos mágicos".

Na área de design de software, podemos observar a funcionalidade de correção ortográfica como um análogo ao HUD. Em vez de atuar como um colaborador virtual, a correção ortográfica simplesmente sinaliza erros com sublinhados vermelhos, proporcionando ao usuário uma nova consciência sobre a grafia sem precisar de um assistente.

Um exemplo pessoal em codificação de IA ilustra essa ideia: ao lidar com um bug, muitos recorrem a um chat com um agente para corrigir o problema. No entanto, uma abordagem mais eficaz pode ser a construção de uma interface de depuração personalizada, que visualiza o comportamento do programa, oferecendo uma experiência mais informativa e intuitiva.

Tanto a correção ortográfica quanto as interfaces de depuração personalizadas demonstram que a automação não precisa se restringir a um assistente virtual. Em vez disso, podemos utilizar a tecnologia para criar HUDs que ampliem nossas capacidades humanas.

Entretanto, é importante ressaltar que HUDs não são sempre superiores a copilotos. A escolha entre um ou outro depende do contexto. Por exemplo, em situações rotineiras, um piloto pode confiar em um piloto automático, semelhante a um copiloto virtual. Contudo, em circunstâncias extraordinárias, como a necessidade de um pouso de emergência, a intervenção manual e instrumentos adequados se tornam essenciais.

Dessa forma, tarefas previsíveis podem ser delegadas a um assistente virtual, mas para resultados excepcionais, equipar especialistas humanos com novas "superpotências" pode ser a melhor estratégia.