Ferramentas · · 2 min de leitura

IBM testa modelos Granite que separam instruções de dados

A equipe IBM Granite lançou duas prévias experimentais treinadas para distinguir instruções de dados com a linguagem de marcação LLMON. A publicação informa que os modelos servem para avaliação e ainda não estão prontos para produção.

As versões derivam do Granite 4.1, nas variantes 3B e 8B. A marcação identifica os componentes do contexto e vincula cada instrução aos dados sobre os quais deve atuar. O objetivo inclui reduzir ataques que escondem comandos em documentos e respostas de ferramentas.

A IBM relata maior resistência em avaliações de ataques indiretos estáticos. Os resultados são apresentados pela própria equipe desenvolvedora. A publicação ressalta que a separação é um comportamento aprendido, sem garantia imposta pelo sistema, e que ataques adaptativos em várias interações seguem em estudo.

O que isso muda para a sua empresa

Análise NVS: empresas que testam assistentes sobre documentos podem avaliar essa abordagem em ambiente isolado, medindo qualidade e resistência a comandos indevidos. A prévia não justifica substituir controles de acesso ou autorizar operações sensíveis sem revisão.

IBMGranitesegurança de IA

Consultoria de IA para empresas

Quer colocar IA para trabalhar no seu negócio, com método e resultado medido?

Diagnóstico dos processos, escolha das ferramentas certas (Claude, ChatGPT, Gemini, agentes no WhatsApp) e implantação com a sua equipe.

Continue lendo

Mais análises