AI Security Radar

Uso, gasto e risco precisam aparecer no mesmo painel

A leitura de hoje vem do artigo da OpenAI "How to manage AI investments in the agentic era", publicado em 14 de julho de 2026. O texto defende que líderes acompanhem uso, produto, modelo, capacidade consumida e tipo de trabalho antes de ampliar workflows longos ou conectados a ferramentas.

Para o Radar, o sinal de segurança é simples: quando a empresa só mede token ou custo mensal, ela perde a trilha do risco. Um workflow agentic pode consultar dados internos, chamar ferramentas, insistir em tentativas e pedir mais capacidade. Sem visibilidade por usuário, modelo, conector e resultado aceito, fica difícil separar produtividade real de automação frágil.

Controle prático para esta semana

Antes de liberar mais autonomia, documente quais contextos a IA pode usar, quais ferramentas pode chamar, quais ações exigem aprovação e quem pode elevar limites. A regra deve valer para conectores, Computer Use, plugins, agentes de código e qualquer fluxo que opere em sistemas corporativos.

Adote uma métrica operacional curta: custo por resultado aceito. Ela junta modelo, ferramenta, tentativas, latência, revisão humana e retrabalho. Se o resultado aceito exige muitos loops ou aprovações manuais, o problema pode ser desenho de workflow, escopo de ferramenta ou ausência de critério de parada.

Segurança de MCP: o novo perímetro dos agentes de IA

Trate MCP como superfície de integração crítica: identidade, autorização, logs, escopo e revisão de ferramentas.

Prompt injection indireta: quando o ataque vem do documento

O modelo pode obedecer conteúdo externo como se fosse instrução. A defesa começa na separação entre contexto, comando e ação.

Excesso de agencia: ferramentas demais para um agente

Quanto maior a autonomia, maior a necessidade de permissão granular, limites de custo e aprovação humana.

RAG poisoning: conhecimento como vetor de ataque

Ingestão sem controle transforma repositórios, wikis e tickets em canais para manipular respostas.

AI-BOM: inventário mínimo para governança de IA

Modelos, datasets, prompts, embeddings, ferramentas, provedores e versões precisam de dono e status de aprovação.

Deepfake fraud: phishing, vishing e BEC com IA

Fraudes sintéticas exigem verificação de identidade, treinamento e controles de aprovação fora do canal atacado.

AI incident response: como responder a abusos de IA

Incidentes de IA envolvem prompt, contexto, dados, ferramentas, fornecedor, logs e decisão humana. O playbook deve refletir isso.

Controle de saída: o ponto cego dos copilotos

Revise quais conectores podem enviar arquivos, mensagens, commits ou tickets. O risco maior costuma estar depois da resposta do modelo.