Ferramentas · · 2 min de leitura
IBM testa modelos Granite que separam instruções de dados
A equipe IBM Granite lançou duas prévias experimentais treinadas para distinguir instruções de dados com a linguagem de marcação LLMON. A publicação informa que os modelos servem para avaliação e ainda não estão prontos para produção.
As versões derivam do Granite 4.1, nas variantes 3B e 8B. A marcação identifica os componentes do contexto e vincula cada instrução aos dados sobre os quais deve atuar. O objetivo inclui reduzir ataques que escondem comandos em documentos e respostas de ferramentas.
A IBM relata maior resistência em avaliações de ataques indiretos estáticos. Os resultados são apresentados pela própria equipe desenvolvedora. A publicação ressalta que a separação é um comportamento aprendido, sem garantia imposta pelo sistema, e que ataques adaptativos em várias interações seguem em estudo.
O que isso muda para a sua empresa
Análise NVS: empresas que testam assistentes sobre documentos podem avaliar essa abordagem em ambiente isolado, medindo qualidade e resistência a comandos indevidos. A prévia não justifica substituir controles de acesso ou autorizar operações sensíveis sem revisão.