Acelere o tempo de retorno dos resultados de IA

Modos de implantação

Ao introduzir um novo modelo ou uma nova versão do modelo, as equipes de operações podem querer testar com tráfego ao vivo e comparar os resultados com a versão anterior. Com MLOps, os usuários podem executar testes de comparação entre o modelo de produção (campeão) e um modelo experimental (desafiador), ou testar dois (ou mais) modelos e comparar os resultados em um simples teste A/B.

Vários ambientes

O MLOps usa ambientes Kubernetes provisionados pelo cliente e oferece suporte a vários ambientes de infraestrutura simultaneamente. As equipes de MLOps podem ter ambientes para desenvolvimento, teste e produção, todos executados em locais diferentes.

Tipo de implantação

Atenda facilmente seu modelo como uma implantação em tempo real (síncrona ou assíncrona) ou implantação em lote (única ou programada) com o clique de um botão.

Atualizações e reversões

Os modelos de aprendizado de máquina podem exigir atualizações frequentes na produção. Com MLOps, as operações podem substituir modelos facilmente com apenas alguns cliques, e o Kubernetes lida automaticamente com o roteamento de novas solicitações para o novo modelo, enquanto a versão anterior lida com solicitações antigas. Da mesma forma, se houver necessidade de reverter para uma versão anterior, isso também pode ser feito com o clique de um botão.

Drift do modelo

Quando os dados mudam entre o treinamento e a produção, os modelos podem se tornar menos eficazes. Esse “desvio” é rastreado observando as diferenças entre os dados de treinamento e produção para cada recurso do modelo. Oferecemos um aplicativo de IA para detecção de desvios projetado para cientistas de dados, que possui visualizações detalhadas de cada recurso para que os cientistas de dados possam determinar se desejam reajustar, treinar novamente ou criar um novo modelo de produção.

Precisão

À medida que os modelos ficam em produção por algum tempo, o desempenho e a precisão do modelo geralmente se degradam. Para que as organizações tenham confiança de que seus modelos estão prevendo conforme desejado, a precisão do modelo deve ser monitorada. Possuimos recursos de monitoramento para modelos de regressão e modelos de classificação.

Justiça e tendência

Os modelos de aprendizado de máquina estão inerentemente sujeitos a vieses, que podem ser causados por vários fatores. A justiça não é apenas uma questão de ética, mas também fundamental para alcançar o valor ideal do negócio. O MLOps monitora modelos quanto a tendências para fornecer às organizações informações para obter melhor valor comercial de seus modelos.

Operacional

Os modelos de produção geralmente são atendidos em infraestruturas propensas a problemas operacionais. Picos repentinos no volume de solicitações ou problemas com objetos de modelo podem causar maior latência ou, pior ainda, interrupção da implantação. MLOps monitora as métricas operacionais das organizações, para que as equipes de TI possam detectar e responder a problemas antes que eles se tornem problemas para os negócios.

Limites personalizados

Para cada implantação, os usuários do podem definir limites e alertas em uma variedade de métricas. Quando as métricas atingem o ponto determinado, um alerta é acionado para notificar a equipe de MLOps sobre o problema para que eles possam tomar as medidas apropriadas.

Permissões de usuário e grupo

Defina permissões para usuários e grupos para Projetos, habilitando o nível de acesso apropriado.

Compartilhamento de artefatos

Compartilhe modelos e artefatos de modelo com colaboradores e membros da equipe e forneça permissão a eles para executar ações para seus modelos.

Painel de análise

Receba uma visão completa de todos os modelos em toda a organização e obtenha informações sobre como os modelos estão progredindo no fluxo de trabalho de implantação. Construa uma compreensão mais profunda da adoção de aprendizado de máquina dentro da organização, mapeando modelos para seus criadores.

Governança, Conformidade, Responsabilidade

Dados, Experiência, Modelo, Linhagem de Implantação O MLOps mantém os dados e a rastreabilidade em todo o ciclo de vida do aprendizado de máquina, permitindo a linhagem de dados de ponta a ponta, experimentando, modelando o registro e implantando.

Reprodutibilidade

Com cada modelo e implantação mantendo seus metadados, as organizações podem reproduzir o desenvolvimento de modelos para qualquer tipo de necessidade de conformidade.

Explicações do modelo em produção

Receba explicações de modelo para cada solicitação de pontuação em tempo de execução. As explicações do modelo facilitam para os indivíduos entender quais recursos do modelo de IA mais contribuíram, tanto positiva quanto negativamente, para cada previsão individual. Com explicações em tempo de execução, as organizações podem validar, analisar e melhorar mais facilmente os resultados do modelo, ao mesmo tempo em que estão em conformidade com os regulamentos do setor.

Log de eventos por implantação

X’MLOps inclui um log de eventos para cada implantação. O log captura todos os eventos relacionados à implantação, incluindo quem executou a ação e quando ocorreu.

Implantações de alta disponibilidade

Selecione até 5 nodes para replicar implantações de modelo. O MLOps verificará automaticamente a integridade de cada node e o balanceamento de carga entre os nós, portanto, se um node falhar, os clientes não sofrerão nenhuma interrupção de serviço.

Configuração da infraestrutura de implantação

Escolha a configuração do Kubernetes mais adequada para cada modelo, incluindo CPU x GPU e processamento mínimo e máximo e alocações de memória. Os clientes podem atribuir implantações a nós de GPU quando o tamanho do modelo for grande e/ou exigir pontuação de latência ultrabaixa.

Opções de implantação

MLOps, é um nosso conjunto amplo e em expansão de produtos. Os clientes implantam e usam toda a plataforma de IA de última geração ou apenas os produtos que atendem às suas necessidades. São duas opções de implantação, híbrida e totalmente gerenciada.