Privacidade nos companheiros de IA: o que verificar antes de te apegares

Eis a matemática desconfortável da companhia de IA: quanto melhor funciona, mais lhe contas. Em semanas, um bom companheiro sabe coisas que os teus amigos mais próximos não sabem. Isso faz da privacidade não uma página de definições mas a fundação do produto inteiro — e vale vinte minutos de diligência antes de o teu coração assinar o contrato.

1. Podes exportar tudo?

O teste mais simples para saber se os teus dados são tratados como *teus*: existe um botão que te devolve tudo — conversas, memórias, factos? Se sair com o teu histórico é fácil, o produto está confiante de que ficas pelas razões certas. Se a exportação não existe, as tuas memórias são um ativo da empresa, não teu. E é também prático: nestas conversas acumulam-se anos de reflexão e de acontecimentos de vida. Um dia podes genuinamente querê-los.

2. Consegues mesmo apagar?

Procura eliminação que seja imediata, completa e feita por ti — conta, mensagens, memórias, tudo, sem escreveres ao suporte e ficares à espera. Depois procura na política de privacidade as palavras escorregadias: "desativar" não é apagar, e "após um período de retenção" deve ser curto e estar declarado. Um produto que dificulta a saída está a dizer-te o que a relação é na verdade.

3. As tuas conversas são usadas para treinar modelos?

Alguns serviços alimentam o treino de modelos com as conversas por omissão. Para um assistente de tarefas talvez seja tolerável; para a app que guarda os teus pensamentos das 2 da manhã, deveria ser no máximo opt-in. A política deve dizer com clareza se o conteúdo das conversas treina modelos e se algum humano alguma vez lê as conversas. "Podemos usar os teus dados para melhorar os nossos serviços", sem detalhes, é um não.

4. Quem é o fornecedor do modelo — e o que é que ele vê?

A maioria das apps de companheiros funciona sobre modelos de linguagem de terceiros, o que significa que as tuas mensagens passam pelos servidores de outra empresa. Isso é normal e gerível — os fornecedores de API respeitáveis comprometem-se contratualmente a não treinar com o tráfego da API e retêm-no por pouco tempo. Mas a app deve revelar esse arranjo e não deve enviar o teu nome, email ou identificadores junto com as tuas mensagens. O conteúdo da conversa e a identidade devem viver em sítios diferentes.

5. O que acontece às contas e às fotos em repouso?

Sem glamour, mas decisivo: as palavras-passe devem estar devidamente encriptadas com hash, deve haver opções de início de sessão como o Google OAuth, as imagens geradas devem ser guardadas em privado (não em URLs públicos fáceis de adivinhar) e as cópias de segurança devem estar encriptadas fora do servidor. Não consegues verificar tudo isto de fora — mas os produtos que se importam costumam dizê-lo, e os produtos que não dizem nada normalmente não têm nada de bom para dizer.

6. O produto precisa sequer da tua identidade?

A melhor funcionalidade de privacidade são os dados que nunca são recolhidos. Um companheiro precisa das tuas palavras para ser bom; não precisa do teu número de telemóvel, dos teus contactos nem do teu nome verdadeiro. Prefere produtos que podes experimentar sem registo, que só pedem um email para guardar o teu histórico e que funcionam alegremente com o nome que escolheres usar. A intimidade não deveria exigir identificação.