O Juiz viu.

A IA não viu. Minusletter #37

Duas advogadas esconderam um comando invisível numa petição.

O juiz viu.
A IA não viu.

Multa: R$ 84.200,00.

Mas aqui está o que ninguém está falando:

O problema não é que alguém tentou hackear a IA.

O problema é que a maioria das organizações usa IA em fluxos críticos sem saber que isso é possível.

Pensa comigo.

Nos anos 2000, tinha gente colocando texto branco no fundo branco pra enganar o Google.

Chamávamos de black hat SEO.

Era crime? Não.

Era trapaça? Sim.

Agora imagina o mesmo princípio aplicado a:

→ Uma análise de crédito

→ Um laudo médico

→ Um processo seletivo

→ Um contrato de seguro

Você não vai ver o comando.

O auditor humano não vai ver o comando.

Só a IA vai "ler" — e ela obedece quem sabe falar com ela.

A lição?

Não é a IA que precisa ser mais inteligente.

São as pessoas ao redor dela que precisam ser mais espertas.

Toda profissão que colocar IA em posição de decidir vai precisar aprender o básico de segurança, governança e auditoria.

Não porque a tecnologia falha.
Mas porque os humanos sabem manipulá-la muito bem.

Leia a vergonha por si mesmo. Clique na imagem.


IA lê contexto.
E contexto pode ser contaminado.

A pergunta que sua empresa deveria estar fazendo hoje:

"Quem está auditando o contexto que alimenta nossas IAs?"

Se a resposta for "ninguém" — você está vulnerável.

Um abraço do @minusfour

Leia a reportagem completa do G1 👇
👉 https://lnkd.in/d4pBYY7m