A Amazon admite que o uso extensivo de IA está causando estragos em seus negócios principais.
- Time ALGOR
- 11 de mar.
- 3 min de leitura
As empresas estão aprendendo da maneira mais difícil que implantar ferramentas de IA rapidamente — e forçar ou incentivar fortemente seus funcionários a usá-las — pode ter um efeito contrário grave.
O exemplo mais recente parece ser o da Amazon — embora se possa questionar se ela está tirando as lições certas. Na terça-feira, o Financial Times noticiou que a gigante do comércio eletrônico convocou um grande grupo de engenheiros para uma reunião sobre as recentes interrupções que afetaram seu negócio de varejo online, algumas delas relacionadas a ferramentas de programação de IA.
Em um relatório de reunião, a empresa descreveu a “tendência de incidentes” como caracterizada por um “grande raio de impacto” e “alterações assistidas por GenAI”. Como um “fator contribuinte”, o relatório listou “o uso inovador de GenAI para o qual as melhores práticas e salvaguardas ainda não estão totalmente estabelecidas”.
“Pessoal, como vocês provavelmente sabem, a disponibilidade do site e da infraestrutura relacionada não tem sido boa ultimamente”, disse Dave Treadwell, vice-presidente sênior de Serviços de Comércio Eletrônico da Amazon, aos funcionários em um e-mail, segundo o Financial Times .
A reunião ocorre após uma interrupção de quase seis horas na semana passada , que deixou o site e o aplicativo de compras da Amazon fora do ar, impossibilitando que os clientes fizessem pedidos. Na sequência, a empresa atribuiu o problema a uma "implantação de código de software malsucedida".
Em outra série de incidentes na divisão de computação em nuvem da Amazon Web Services, duas interrupções distintas foram causadas depois que engenheiros permitiram que a ferramenta de IA interna da empresa fizesse alterações desastrosas, conforme revelado por reportagem adicional do Financial Times no mês passado.
Em um dos casos, a ferramenta de IA excluiu e recriou todo o ambiente de programação.
Em resposta às reportagens anteriores, a Amazon classificou esses erros como um problema relacionado aos seus protocolos de uso de IA e "controle de acesso do usuário", e não como um problema de autonomia da IA em si, e parece manter sua posição. A empresa não pretende recuar na implementação de IA, mas insiste em salvaguardas mais rigorosas e maior supervisão sobre como ela é utilizada.
Engenheiros juniores e de nível intermediário agora precisarão da aprovação de engenheiros mais seniores para quaisquer alterações com auxílio de IA, disse Treadwell na reunião, segundo reportagem do Financial Times .
Treadwell pediu aos funcionários que comparecessem à reunião, que normalmente é opcional.
Não há dúvida de que as ferramentas de IA, se forem utilizadas, devem ser rigorosamente supervisionadas, especialmente em funções de programação. Como qualquer modelo de IA generativa, as ferramentas de codificação de IA frequentemente permitem erros e, por vezes, têm dificuldades em seguir instruções, o que significa que podem executar ações que o utilizador nunca pretendeu.
Mas o renovado foco da Amazon na implementação de uma supervisão mais humana ocorre em um momento em que a empresa demitiu centenas de funcionários de sua divisão de computação em nuvem e planeja dispensar 30.000 pessoas em toda a sua força de trabalho corporativa.
Enquanto isso, a gerência pressiona os programadores a utilizarem amplamente ferramentas de IA, com funcionários relatando anteriormente ao Financial Times que a empresa estabeleceu a meta de que 80% dos desenvolvedores utilizem IA em tarefas de programação pelo menos uma vez por semana.
Em resumo: mais programação com mais IA e mais supervisão humana, mas com menos humanos. Veremos como isso funciona.
Comentários