O desafio
Sua organização precisa decidir quais dados podem chegar aos modelos de IA. Documentos, conversas e registros internos podem conter informações que exigem proteção. Quando esse conteúdo é utilizado por pessoas e agentes, as regras de envio precisam fazer parte da operação.
A organização precisa conseguir responder:
Quais tipos de dados devem ser identificados antes do envio?
Quando o conteúdo deve ser bloqueado e quando os dados podem ser substituídos?
Como aplicar as mesmas regras às conversas, aos agentes e aos fluxos de trabalho?
A AUMO reúne a verificação e o tratamento dos dados em um ponto central da plataforma, com regras definidas pela organização para cada categoria.
Como a AUMO protege os dados
Identificar o dado. Aplicar a regra. Controlar o envio. A AUMO reúne a verificação e o tratamento dos dados em um ponto central da plataforma.
A organização define as regras por categoria, e esse controle é aplicado às solicitações encaminhadas aos modelos por esse ponto.
Controle para a organização
As regras são definidas no nível da organização e aplicadas às solicitações que passam pelo controle da plataforma. Cada Workspace pode sobrescrever essas regras, ajustando o que deve ser anonimizado em cada projeto.
Com isso, as áreas responsáveis podem estabelecer quais categorias devem provocar o bloqueio do envio e quais podem seguir após a substituição dos dados detectados. Pessoas, agentes e fluxos de trabalho utilizam os modelos de acordo com essa política.
Evolução da plataforma
Novas formas de proteger os dados e acompanhar o uso da IA. A AUMO está evoluindo seus controles de proteção para ampliar as opções de tratamento dos dados e dar mais visibilidade à organização. Conheça as próximas capacidades previstas para esta área da plataforma.
Em desenvolvimento
Substituir os dados e recuperá-los na resposta
O recurso substituirá dados identificados por valores fictícios de mesmo formato antes do envio ao modelo. Os dados originais permanecerão no ambiente controlado pela plataforma e poderão ser restaurados no retorno ao usuário ou à ferramenta autorizada.
O objetivo é preservar informações úteis para a tarefa, sem expor os valores originais ao modelo. Esse mecanismo é chamado de pseudonimização reversível.
Previsto no roadmap
Identificar possíveis usos indevidos
A análise do contexto das solicitações buscará identificar possíveis usos indevidos, como pedidos relacionados a atividades ilícitas. O objetivo é ampliar a proteção para além da identificação de dados, considerando também a finalidade do pedido.
Previsto no roadmap
Acompanhar quando os controles são acionados
Um painel reunirá os acionamentos dos controles de proteção, com informações por usuário e por tipo de controle. Isso ajudará os administradores a acompanhar como a proteção atua no dia a dia e a identificar situações que merecem atenção.
As capacidades acima fazem parte da evolução da plataforma. Consulte a AUMO para conhecer o estágio e a disponibilidade de cada recurso.
Defina como proteger os dados da sua organização no uso de IA.
Converse com a AUMO sobre os processos em que sua organização utiliza IA, os dados que exigem proteção e as regras necessárias para controlar seu envio aos modelos.