O desafio
O uso de diferentes modelos precisa seguir regras claras. Quando cada aplicação se conecta diretamente aos provedores de IA, manter configurações, permissões e registros consistentes passa a depender de diferentes implementações.
Quais modelos cada Workspace pode utilizar?
Como as chamadas são autenticadas e seu consumo é registrado?
Quais controles de proteção se aplicam a cada uso?
Como integrar aplicações da organização a esse acesso centralizado?
O gateway da AUMO centraliza autenticação, encaminhamento, medição e proteção de dados nas chamadas encaminhadas por ele.
Acesso centralizado
Um ponto para organizar as chamadas e aplicar os controles. O gateway de modelos é o componente da AUMO que recebe as solicitações e as encaminha aos provedores configurados.
Agentes
Workflows
Aplicações integradas
Autenticação
Verificar as credenciais utilizadas no acesso.
Encaminhamento
Preparar e encaminhar as solicitações aos modelos compatíveis.
Medição
Registrar o consumo das chamadas que passam pelo gateway.
Proteção de dados
Aplicar os mecanismos disponíveis e configurados nos fluxos abrangidos.
OpenAI
Anthropic
AWS Bedrock
Google Vertex AI
Acessos feitos diretamente aos provedores ou por outros caminhos ficam fora desse controle.
Modelos e provedores
A AUMO oferece integração com provedores e serviços de modelos de IA. Os modelos disponíveis dependem do catálogo, das credenciais e da configuração da organização. O suporte a um provedor não significa que todos os seus modelos e recursos estejam habilitados.
A organização pode conectar provedores compatíveis utilizando suas próprias credenciais. A habilitação dos modelos é feita por Workspace, permitindo disponibilizar opções diferentes conforme as necessidades de cada equipe ou caso de uso.
Aplicações integradas
Aplicações da organização também podem encaminhar solicitações pelo gateway da AUMO, por meio de API, com autenticação e medição de consumo nesse caminho.
A API utiliza formatos de chamada compatíveis com os da OpenAI. A integração deve considerar as operações, os parâmetros e os recursos suportados pela AUMO e pelos modelos escolhidos.
O acesso é realizado por chaves de API com permissões definidas. Assim, a equipe pode avaliar como conectar suas aplicações ao gateway e quais operações serão autorizadas.
O alcance dos mecanismos de proteção de dados para cada integração externa deve ser confirmado na avaliação técnica.
Condições de uso
Os modelos podem oferecer capacidades distintas, como processamento de texto, imagens e arquivos. A utilização desses recursos depende da combinação entre o modelo, o provedor e os formatos suportados pela integração.
O suporte ao envio de imagens ou arquivos deve ser avaliado separadamente da cobertura dos mecanismos de proteção de dados sobre esses conteúdos.
Essas definições ajudam a organização a escolher os modelos e configurar as aplicações de acordo com o uso pretendido.
Evolução da plataforma
O suporte ao formato de chamadas da Anthropic ampliará as opções de integração para aplicações que utilizam esse padrão.
Essa capacidade é diferente do acesso aos modelos da Anthropic, já contemplado entre os provedores integrados ao gateway.
A seleção automática considerará os modelos habilitados no Workspace e critérios como sensibilidade dos dados, desempenho e custo. O objetivo é apoiar o encaminhamento das solicitações conforme esses critérios.
A avaliação contínua dos provedores está prevista como etapa de apoio a essa evolução.
Um painel reunirá indicadores como taxa de erro, tempo até o início da resposta e velocidade de geração. Essas informações ajudarão a avaliar o comportamento dos serviços utilizados pela organização.
As capacidades acima fazem parte da evolução da plataforma. Consulte a AUMO para conhecer o estágio e a disponibilidade de cada recurso.
Posso usar credenciais próprias dos provedores?
Cada Workspace pode ter modelos diferentes habilitados?
O gateway controla também acessos feitos diretamente aos provedores?
Uma aplicação que utiliza a API da OpenAI pode ser integrada à AUMO?
A proteção de dados está disponível para qualquer chamada externa por API?
A AUMO escolhe automaticamente o modelo para cada solicitação?
O suporte à Anthropic já está disponível?
Defina como sua organização acessa e utiliza os modelos de IA.
Converse com a AUMO sobre os modelos que suas equipes precisam utilizar, os Workspaces envolvidos e as aplicações que deseja integrar. Avalie os controles disponíveis e as condições para centralizar esse acesso.