Documentação / ML Studio

Privacidade e sandbox de ML

A fronteira de dados do ML Studio. O que fica no seu computador, o que os agentes veem, quem desmascara e o que acontece antes de treinar fora.

Nesta página

No ML Studio há dois públicos diferentes e o Yuli os separa: você e os seus modelos locais, que trabalham com os dados reais, e os agentes externos, que só veem o que passa pela fronteira de dados.

O seu código fica no seu computador; com um modelo local, nada sai; com modelos na nuvem, o que é enviado passa antes pelo mascaramento de segredos e dados pessoais.

O que fica no seu computador

Todo o ML Studio roda localmente:

AtividadeOnde acontece
Importar e perfilar dadosNo seu computador.
Treinar e avaliarNo worker de ML do seu computador.
Servir o modeloEm 127.0.0.1, só escuta na sua máquina.
LLM local e RAG (Conhecimento)No seu computador, com embeddings próprios sem rede.

Não há servidores do Yuli entre você e a sua IA. A única exceção é a que você escolhe explicitamente: treinar em uma máquina remota (veja abaixo).

A fronteira de dados

Os agentes externos (Claude Code, Codex, agentes ACP ou um modelo na nuvem por trás do chat) enviam ao seu provedor o que leem. Por isso, tudo o que o ML Studio responde a eles passa por uma fronteira de dados:

  • As colunas sensíveis saem como •••.
  • Do texto livre são removidos e-mails, cartões, telefones, CURP/RFC e IPs.
  • Os agregados passam: perfis, métricas e importância de variáveis. Um agente pode raciocinar sobre «quais variáveis pesam mais» sem ver um único cliente.

Exemplo do que um agente vê ao pedir uma amostra:

text
cliente_id  email   curp    saldo_prom  pedidos_pagados  baja
•••         •••     •••     1 840.50    12               0
•••         •••     •••       312.00     2               1

Com um modelo na nuvem, além disso, o que é enviado ao provedor passa pelo filtro de saída: os segredos são substituídos por um marcador yuli:secret#N e os dados pessoais por um yuli:pii#N, com uma etiqueta HMAC por sessão. Eles só são restaurados ao gravar em disco. Veja Segredos e privacidade.

Detector de sensibilidade

Em Dados › Sensibilidade, cada coluna recebe uma probabilidade, uma categoria e um mascaramento sugerido. O detector combina o nome da coluna, padrões e validadores com dígito verificador:

ValidadorDetecta
CartõesNúmeros de cartão de pagamento.
IBANContas bancárias internacionais.
CLABEContas bancárias do México.
CPFIdentificação fiscal do Brasil.
CURP / RFCIdentificação pessoal e fiscal do México.

Quem desmascara

Só uma pessoa pode marcar uma coluna como não sensível. Um agente nunca pode desmascarar dados para si mesmo, nem mesmo dentro de uma equipe de agentes.

O que você decide:

  • Marcar como sensível uma coluna que o Yuli não detectou.
  • Marcar como não sensível uma que foi detectada por engano.
  • Criar uma cópia mascarada para compartilhar o dataset.

Worker sem rede por padrão

O processo que treina (o worker de ML) não tem rede por padrão:

MedidaEfeito
HF_HUB_OFFLINEAs bibliotecas do Hugging Face não baixam nada.
PIP_NO_INDEXO pip não instala pacotes da internet.
bwrap --unshare-net (Linux)O processo roda sem interface de rede.

Assim, um script de treinamento ou uma dependência não conseguem enviar os seus dados para lugar nenhum. A rede só é aberta se o projeto permitir explicitamente:

yaml
# yuli-ml.yaml
policies:
  allowNetwork: true   # por exemplo, para baixar uma base do catálogo

Ative allowNetwork só enquanto precisar (baixar uma base ou uma dependência) e volte para false depois.

Antes de treinar fora

Treinar em uma máquina remota (SSH ou nuvem) é a única via pela qual os dados de ML saem do seu computador, e isso nunca acontece sem aviso. Antes de iniciar, o Yuli mostra:

«Os dados saem para host: são enviados o dataset e o código que o trabalho lê. Ao terminar, o Yuli traz o modelo, verifica cada arquivo e apaga os dados lá (a menos que a máquina os mantenha).»

0 de 4 feitos