Sistemas criados com IA que passam nos testes, mas caem em produção: risco invisível da Shadow IT

By 12 de novembro de 2026Artigos, Tendências

A promessa da Inteligência Artificial gerativa no desenvolvimento de software é irresistível: prototipar em horas o que antes levava semanas, automatizar rotinas massivas e acelerar a escrita de consultas. No entanto, nos bastidores das operações de banco de dados PostgreSQL, um novo fenômeno começa a acender alertas nas equipes de DBA e infraestrutura: a falsa sensação de prontidão do código SQL e das aplicações geradas por IA.

Em conversas frequentes com times de engenharia, o padrão tem se repetido: áreas de negócio ou de desenvolvimento sob forte pressão por prazos usam assistentes de IA para gerar rotinas, criar tabelas ou conectar aplicações diretamente ao Postgres. As telas funcionam, as consultas simples respondem rapidamente no ambiente local de desenvolvimento e a aplicação é lançada com entusiasmo.

Porém, quando a solução entra em produção e recebe o volume real de acessos simultâneos, o cenário muda: o consumo de CPU dispara, o pool de conexões esgota, surgem locks em tabelas críticas e o PostgreSQL para de responder.

Para piorar: em muitos casos, o time de dados ou a TI sequer sabia que a solução existia ou que estava rodando consultas diretamente no banco de produção até o alerta de indisponibilidade soar.

O “código sem dono” e os gargalos invisíveis no PostgreSQL

A IA é excelente em sintetizar sintaxe SQL funcional para cenários isolados. O problema é que Modelos de Linguagem (LLMs) apontando para bases sintéticas, de desenvolvimento ou de testes, por exemplo, não tem dados suficientes para entender a volumetria de dados de um ambiente de produção real, não conhecem a distribuição de estatísticas do seu banco e não analisam planos de execução reais no PostgreSQL.

Quando um sistema ou rotina SQL é gerado via IA por profissionais sem background em administração de dados ou sob pressão por prazos, o risco de ocorrerem falhas graves que passam despercebidas aumentam nos testes locais.

Encontramos comumente alguns padrões bastante comuns

  • Consultas mal estruturadas e falta de índices: A IA costuma gerar consultas com múltiplos JOINs complexos, ordenações pesadas e funções aplicadas diretamente a colunas (Seq Scans massivos), ignorando os índices existentes ou a estratégia de indexação necessária.
  • Estouro de conexões (Connection Exhaustion): Aplicações rascunhadas por IA frequentemente abrem novas conexões com o PostgreSQL a cada requisição sem gerenciar adequadamente um Connection Pooler (como PgBouncer). Em produção, isso atinge rapidamente o max_connections e derruba a aplicação.
  • Locks e contenção de DML: A IA pode sugerir comandos DML (UPDATE, DELETE) em massa sem fazer o devido loteamento (batching). O resultado são transações longas, travamento de linhas/tabelas e gargalos graves na replicação ou no consumo do WAL.
  • A “caixa preta” do depurador: Como o código foi gerado sinteticamente, a pessoa que o implementou raramente sabe como interpretar um EXPLAIN (ANALYZE, BUFFERS) ou usar a visão pg_stat_activity para identificar qual consulta está travando o ambiente.

Além da indisponibilidade: Chaves de API, MCP e riscos de segurança

A queda do cluster PostgreSQL costuma ser o problema mais visível, mas os riscos de segurança e conformidade são ainda mais impactantes:

  • Uso inseguro de MCP (Model Context Protocol): Com a ascensão de servidores MCP para conectar LLMs diretamente a bancos de dados, cresce o risco de IAs e chatbots realizarem consultas arbitrárias ou atualizações diretas no PostgreSQL sem passar por camadas de autorização ou validação de DML bem configuradas.
  • Credenciais expostas em código client-side: Na pressa de publicar serviços e automações geradas por IA, é comum encontrar strings de conexão do PostgreSQL (com usuário, senha e host) expostas diretamente em ferramentas externas, sem uma gestão de cofres de senha ou limites de acesso IP.
  • LGPD e vazamento em IAs públicas: Times de desenvolvimento e de negócio frequentemente colam dados sensíveis ou esquemas inteiros das tabelas do PostgreSQL em IAs públicas para pedir otimização de consultas, expondo informações corporativas a modelos treinados por terceiros sem aval do jurídico.

Como a TI e os DBAs podem viabilizar o uso de IA com segurança

Quando incidentes desse tipo acontecem, a reação natural da engenharia de dados é o bloqueio total de acessos. Porém, rotular a TI como “retrógrada” apenas estimula o uso clandestino da tecnologia.

A solução não é proibir a IA, mas substituir travas reativas por processos formais, arquitetados e auditáveis no ciclo de vida do PostgreSQL.

Para aproveitar a eficiência da IA sem comprometer o SLA do seu banco de dados, recomendamos três pilares estratégicos:

Modelo “Human-in-the-Loop” na validação de SQL

A IA pode sugerir ajustes de consultas e gerar DDLs/DMLs, mas a decisão final e a validação do plano de execução devem permanecer nas mãos de profissionais humanos (DBAs e Engenheiros de Dados). Nenhuma alteração estrutural ou query pesada deve ser promovida para produção sem análise prévia no EXPLAIN ANALYZE.

Guardrails técnicos de banco de dados

  • Permissões estritas (Least Privilege): Use o princípio do menor privilégio e nunca conceda permissões de escrita ou superuser para serviços ou automações criadas por IA.
  • Statement Timeouts: Configure statement_timeout e idle_in_transaction_session_timeout por usuário/aplicação para evitar que consultas ruins geradas por IA travem o PostgreSQL indefinidamente.
  • Isolamento via Sandbox: Forneça ambientes de homologação isolados com dados anonimizados para que os times possam testar ferramentas de IA sem risco ao banco principal.
  • Gestão Centralizada e Rotação de Credenciais: Utilize cofres de segredos (como HashiCorp Vault, 1Password ou Bitwarden) integrados a credenciais de serviço com acesso estritamente restrito. Implemente políticas de rotação automática de senhas e tokens para garantir que aplicações ou ferramentas geradas por IA nunca utilizem acessos estáticos ou privilegiados no banco de dados.

Governança, Observabilidade e Compliance

Documente uma política interna clara sobre quais ferramentas corporativas de IA são homologadas (que garantem sigilo de dados) e utilize ferramentas de observabilidade para monitorar consultas problemáticas e o comportamento do pool de conexões em tempo real.

Conclusão

A Inteligência Artificial veio para ser uma excelente assistente para quem trabalha com dados e desenvolvimento, mas ela não substitui a arquitetura de software, a modelagem de dados rigorosa e os fundamentos de administração do PostgreSQL.

Permitir que a IA auxilie a escrever consultas é um ganho enorme de produtividade. Permitir que essas consultas rodem em produção no PostgreSQL sem supervisão técnica e auditabilidade é assumir um risco desnecessário.

Receba mais conteúdos como este!

Assine a nossa newsletter e acompanhe conteúdos técnicos, análises e discussões sobre PostgreSQL, arquitetura e engenharia de dados.

[Quero receber os próximos conteúdos]

Share