No Natal de 1978, meus avós presentearam nossa família com um videocassete (VCR). Para aqueles que nasceram depois… sempre, esse é um aparelho que usa fitas para reproduzir e até gravar filmes e programas de TV. Mal sabíamos o que era quando a adquirimos: esta máquina em particular era uma daquelas antigas versões “pop top”. Adoramos seu “kethunk” autoritário quando ele se abriu por cima, pronto para receber a próxima fita de videocassete. Ainda assim, foi uma aventura encontrar fitas de videocassete para alugar; a única locadora de fitas era uma loja de conveniência que tinha apenas três filmes disponíveis: “Patton”, “The Sting” e “Contatos Imediatos de Terceiro Grau”. Então, tivemos que gravar muitos programas de TV.

Mas, para fazer isso, primeiro tivemos que programar aquele videocassete. O problema é que programar isso não era para os fracos de coração para a maioria das famílias; apenas programar o relógio na frente da máquina para impedir que ela piscasse constantemente “12:00” era um verdadeiro exercício de dor. Acho que um bom gerente de projeto teria dificuldade em registrar as horas coletivas que passamos tentando modificar essas configurações, apenas para fazer essa alteração aparentemente simples. Lembro-me do momento em que, depois de muitas dificuldades, esse número mudou para o horário atual: todos nós soltamos um grito coletivo de vitória. Quando fui para a escola no dia seguinte, ouvi histórias sobre outras famílias que simplesmente colocaram fita preta sobre o sinal de 12h piscando naquele display de LED e se contentaram em assistir ao semi-último filme do Sr. Spielberg.

Nosso problema de IA do “12 piscando”

O que esta história tem a ver com o treinamento prático em IA? Bem, um pouco. Suponho que você esteja pensando que eu poderia ter me referido a algo mais moderno do que um videocassete e esteja se perguntando por que fui totalmente retro frontal neste exemplo. Bem, eu fiz isso porque não inventei o ditado “piscando 12”. Não é meu termo. E não, não estou falando dos “12o cara”, também (vá para Seattle Seahawks).

O “problema do número 12 piscando” refere-se a qualquer situação em que recursos ou funções de um dispositivo, programa ou sistema não são utilizados porque a interface é difícil de usar. Na verdade, o problema é ainda mais profundo do que uma interface de usuário ruim. O problema ocorre principalmente porque os desenvolvedores do sistema não conseguiram prever o nível de interação necessário para os usuários operarem a tecnologia. O “problema do 12º piscar” também está relacionado com uma questão mais profunda: para utilizar a IA de forma eficaz, todos precisamos de interagir muito mais profundamente com a nossa tecnologia. Tanto os trabalhadores tradicionais como os nossos colegas de IA lutam para fazer isto, neste momento. Por que? Porque os programadores, designers e trabalhadores de sistemas raramente previram a realidade de que, para serem produtivos, tanto os “comedores” (o termo mais recente para humanos em Silicon Valley) como os agentes de IA precisam de compreender nuances e apresentar um nível de literacia maior do que nunca.

Suponho que algumas pessoas possam estar pensando agora que a IA é tão fácil de usar: afinal, uma das coisas mais inteligentes que os provedores de IA generativa fizeram foi adotar a interface simples de caixa de texto do Google: tudo o que precisamos fazer é digitar uma solicitação, pergunta ou comando, e as coisas acontecem automaticamente. Mas quando se trata do uso verdadeiramente produtivo da IA, é necessária mais interação. Na verdade, nosso Força de trabalho e tendências de aprendizagem da CompTIA O relatório indica que as organizações em praticamente todos os setores da indústria continuam a refinar a forma como os trabalhadores e a IA interagem entre si.

IA e redução do atrito

Como quase qualquer tecnologia de automação, a IA foi projetada para reduzir o atrito e diminuir as barreiras de entrada. Eu chamo esse processo de “desfriccionamento”. Por exemplo, recentemente conduzi um teste de penetração onde precisei de algum código Python para automatizar o processo de digitalização. Pedi que uma ferramenta GenAI criasse o código. Tive que consertar, mas mesmo assim a GenAI me economizou algum tempo. Outro exemplo de desfricção vem da Europa, onde certa vez conversei com uma CIO da área de saúde que me contou como conseguiu usar a IA para aprimorar uma ferramenta de diagnóstico de detecção de doenças. Ela conseguiu usar IA para modelar agentes de doenças, economizando pelo menos seis meses ao projeto.

O problema é que é fácil fazer mau uso da IA ​​para criar pura ficção durante o processo de “desfricção”. É aqui que nós, humanos, encontramos maneiras de controlar um processo específico que requer mais tempo e reflexão. O modelo “Copiar e Colar” não é uma forma eficaz de interagir com IA ou qualquer outra coisa. Mas muitos são culpados disso. Isso não é uma interação adequada de IA; isso é evitar interação.

Substituição e implementação de IA

Costumo ouvir como a IA fez grandes melhorias, criando códigos maravilhosos, geralmente de pessoas que nunca criaram nenhum código útil em suas vidas. Acabei de vivenciar um momento assim na semana passada com um acadêmico que se considera um grande programador e administrador de sistemas experiente. Ele informou a mim e a quase 200 convidados que a IA cria códigos incríveis e utilizáveis ​​que nem ele precisa mais verificar. Fiquei um pouco surpreso com essa afirmação.

Claro, a GenAI continua fazendo grandes progressos, especialmente na área de desenvolvedores. Mas acho que qualquer pessoa que use código sem primeiro validá-lo está deliberadamente envolvida em dívidas técnicas – uma doença que continua a incomodar desenvolvedores, engenheiros de nuvem e trabalhadores de segurança cibernética. Aceitar código não testado – que envolve pular etapas de validação de segurança – é uma forma particularmente perigosa de dívida técnica que vejo em todos os setores da indústria.

Deixe-me esclarecer isso: sempre que pergunto a administradores de sistemas, engenheiros de nuvem, profissionais de segurança cibernética e desenvolvedores se eles usam o código que a IA cospe, todos me lançam um olhar engraçado e, em seguida, me dão algum tipo de variação na seguinte afirmação: “Nunca uso IA diretamente no meu trabalho”. Então, qual é o problema aqui? Tem menos a ver com académicos arrogantes e mais com um problema que chamo de “substituição”, uma versão particularmente insidiosa do problema dos “doze piscadelas”.

Eu chamo isso de “substituição”, porque é quando alguém elimina uma etapa válida e insere algo que é problemático. É onde trabalhadores ingênuos usam IA para automatizar coisas que consideram sem importância ou de alguma forma impossíveis de fazer, dado o tempo de que dispõem. Todos nós já nos envolvemos neste tipo de substituição: ao descobrir uma barreira no seu trabalho, é muito fácil simplesmente dizer: “Ei, é simples eliminar o que outra pessoa normalmente faz, porque a IA agora faz isso melhor”. Chamo isso de substituição porque você está fazendo mais do que mera desintermediação, que é onde você elimina um intermediário para criar eficiências. Você está criando um substituto fraco para um processo que realmente requer um trabalho diferenciado.

O resultado? Bem, você acaba com coisas desleixadas: IA fraca, segurança cibernética deficiente e negócios ruins. E ninguém precisa de tecnologia desleixada nos negócios de hoje.

Alguns exemplos de substituição

Em uma empresa, vi uma situação em que profissionais de RH foram solicitados a ajudar no treinamento de seu software de aprimoramento de RH. Em vez de fazerem isso sozinhos, contrataram um empreiteiro. O empreiteiro, no entanto, não tinha experiência na criação de programas de qualificação. Como resultado, a empresa perdeu a oportunidade de coletar dados e automatizar adequadamente seu treinamento. Este é um problema bastante comum do “12 piscando” em muitos setores industriais.

Num país, vi os militares contratarem um empreiteiro para utilizar a GenAI para ajudar a avaliar e mapear certificações e cursos da indústria de acordo com os seus padrões. Porém, a empresa não conseguiu treinar o modelo de IA, dado o tempo e o dinheiro disponíveis. Como resultado, o governo voltou a um processo manual. Para mim, isso nada mais é do que colocar fita preta sobre o problema da IA ​​piscando doze.

Vimos exemplos públicos de substituição, incluindo A desventura da IA ​​da Metae momentos em que as organizações implementam IA sem implementar estratégias de rotulagem de dados que permitam a governação. Na minha própria experiência, vi organizações tentarem usar IA para criar uma política de resposta a incidentes, em vez de usar profissionais experientes em segurança cibernética.

Parece que em cada uma das situações acima, as organizações estão descobrindo situações em que suas implementações de IA ou tecnologia enviam incessantemente o seguinte flash: “Seu problema do 12 piscando está aparecendo!”

Resolvendo substituição com curiosidade, comunicação

Cabe a nós treinar adequadamente nossos trabalhadores – “comedores” e IA. Conjuntos de competências essenciais necessários para lidar adequadamente com a carga de trabalho e evitar substituições inadequadas. Num caso, conheço um pequeno internato na Austrália que está a adotar deliberadamente a IA para os seus instrutores, funcionários e alunos. Eles veem as tremendas eficiências que a IA pode criar. Mas, em vez de utilizarem a IA para criar políticas, estão a trabalhar com líderes industriais de vários setores, incluindo o retalho, as finanças e os setores do consumo.

Eles estão começando adotando o Padrão de sistema de gerenciamento de IA ISO 42001:2023. Como parte desta adoção, as equipas de TI e de gestão estão a trabalhar em conjunto com o pessoal interno para criar e avaliar documentos de governação e resposta a incidentes. Eles estão criando documentação escrita que descreve sua estratégia de IA para ajudar os alunos, bem como políticas de uso aceitável de IA. O seu progresso tem sido lento, mas constante.

Mas é possível que eu esteja me adiantando aqui. O seu sucesso, como muitos outros que vi na Europa, na América do Sul e no Japão, não se deve ao facto de terem adoptado um padrão ou enquadramento específico. Eles estão obtendo sucesso porque estão em contato cuidadoso com funcionários, estudantes e consultores para garantir que abordem como a IA afetará os fluxos de trabalho. Até agora, os líderes desta escola não cometeram o erro de ignorar as contribuições das pessoas que trabalham para viver. Isso substituiria indevidamente a sabedoria colectiva por ideias teóricas. Isso não é transformação. Isso é substituição.

Os líderes com quem conversei aproveitaram sua capacidade de permanecer curiosos e de fazer perguntas difíceis. No momento, essa é a principal habilidade que as organizações estão usando para resolver o problema. Na verdade, sempre que peço aos líderes de todos os sectores da indústria que me digam a competência mais crítica que os ajuda a implementar a IA, eles usam duas palavras: curiosidade e comunicação, duas competências que andam de mãos dadas, juntamente com os humanos “comedores” e os seus agentes de IA. Portanto, percorremos um longo caminho desde a interface limitada do videocassete. Agora, estamos envolvidos em iteração e interação e usando agentes que nos ajudam a concluir tarefas. Essas coisas nos ajudarão a evitar o problema do 12º piscar.