Alucinante

Um chat LLM (neste caso, foi com Google Gemini na web, mas as vezes també uso o Cursor IDE) pode ser um parceiro de exploração e codificação — e, ao mesmo tempo, um risco operacional quando pedimos fidelidade literal a um script que já tinha passado por revisão e gates do repositório.

Em abril de 2026 repeti um pedido simples em teoria: “mantenha o arquivo do script ‘as-is’ — preciso de comentários de auditoria, lógica, caminhos e semântica intactos”. O que veio foram múltiplas variantes, blocos movidos e narrativas que não batiam, lógica simplificada, reducionismo geral, um monte de falsos negativos, passou no pytest e no lint, mas com o estado real do repo quebrado até cruzarmos com git e artefatos locais, e isso não basta. Foram centenas de diff, wc, grep, undo, redo, e no final tive de restaurar do backup. O custo foi em tokens disperdiçados, tempo humano, cognição, estresse, e atenção emocional — não foi “falta de regras no IDE” sozinha, não foi falta de capacidade do Agente.

Por isso procuro ser tão cético e determinístico em tudo o que eu faço. Dá pra usar assistência de IA em quase tudo, mas com cuidado, cautela e critério. Não confie cegamente no ‘hype‘. No final do dia é teu nome que vai para o commit, é tua reputação em jogo, é o teu código que vai estar quebrado se não prestar atenção e revisar rigorosamente, é tua aplicação que ficará sem funcionar.

E no final o script nem funcionou. Lastimável.

#DevSecOps #OpenSource #EngenhariaDeSoftware #LLM #AI #Hype

https://github.com/FabioLeitao/data-boar/blob/main/docs/AI_EVOLUTION_PRIMER.pt_BR.md