Privacidade e IA

O que um assistente de IA vê na sua lista de tarefas

Só o que o app envia a ele. Um assistente dentro de um app de tarefas vê o seu pedido mais os itens que o app anexa ou busca para ele: títulos, notas, datas, etiquetas. Alguns recursos rodam no seu iPhone e nada sai dele; outros vão a um servidor e depois a um provedor de IA. Antes de ativar um, descubra se ele pergunta primeiro, o que um pedido contém, onde roda, o que o provedor guarda e se você pode deixar alguns itens de fora.

Em breve para iPhone e iPad

Verificado em

Nesta página

O assistente só sabe o que o app envia

Um modelo de linguagem não mora dentro do seu app de tarefas nem o navega. Ele fica em algum lugar, no seu celular ou em um servidor, e recebe texto. Tudo o que ele “sabe” sobre a sua lista chega em um pedido que o app monta. Então a pergunta útil não é “a IA consegue ver a minha lista?”, mas “o que este app põe em um pedido, e quando?”

Um pedido pode conter vários tipos de coisa:

  1. O que você digitou ou disse. A sua mensagem, ou as suas palavras depois que o ditado as transforma em texto.
  2. O contexto que o app anexa. Alguns apps acrescentam o item que você está olhando, a lista de hoje ou as tarefas de um projeto para a resposta ser específica.
  3. O que o modelo busca. Muitos assistentes podem pedir mais ao app pelo caminho: “tudo o que vence esta semana”, “as notas deste projeto”. O app executa essa busca no seu celular e devolve o que achou. Esses resultados também passam a fazer parte da conversa.
  4. A conversa anterior. Um chat costuma reenviar as mensagens anteriores a cada nova, então algo que você mencionou dez minutos atrás pode viajar de novo.

É por isso que o mesmo assistente pode parecer inofensivo quando você pede para reescrever uma tarefa e ir bem mais longe quando você pergunta “o que devo fazer hoje?”. A segunda pergunta precisa da sua lista, e o app vai buscá-la.

Para onde vai o pedido

Há três lugares comuns em que um pedido acaba, e eles fazem promessas muito diferentes.

No seu iPhone. A Apple deixa os apps usarem o modelo no aparelho, no centro da Apple Intelligence, pelo framework Foundation Models, e diz que os recursos feitos assim funcionam offline. Quando um recurso roda aqui, o texto nunca sai do celular. A troca é o tamanho: um modelo do tamanho de um celular lida melhor com trabalhos curtos e bem definidos do que com conversas longas e abertas.

O Private Cloud Compute da Apple. Para tarefas da Apple Intelligence que precisam de um modelo maior, a Apple diz que o pedido pode ir ao Private Cloud Compute, onde os dados “não são armazenados nem ficam acessíveis à Apple” e são usados só para atender ao pedido. Isso vale para os recursos da própria Apple, não para um app que fala com outro provedor.

Um provedor de terceiros, muitas vezes pelo servidor do app. Muitos assistentes enviam pedidos a uma empresa como a OpenAI, direto do app ou pelo servidor do próprio desenvolvedor no meio do caminho. Duas políticas passam a importar: a do desenvolvedor, para o servidor dele, e a do provedor. A página de controles de dados da OpenAI diz que os dados enviados à sua API não são usados para treinar os seus modelos desde 1º de março de 2023, a menos que o cliente opte por isso, e que os registros de monitoramento de abuso, que podem conter pedidos e respostas, são guardados por até 30 dias por padrão. Clientes aprovados para Zero Data Retention (retenção zero de dados) podem ter o conteúdo deixado de fora desses registros. Qual arranjo um app tem é algo que só o app pode dizer.

Nosso guia sobre IA no aparelho ou na nuvem vai mais fundo na diferença.

O que uma etiqueta de privacidade mostra e não mostra

A etiqueta de privacidade da App Store é um bom primeiro olhar, mas não foi feita para descrever pedidos de IA. A orientação da Apple para desenvolvedores define “coletar” como enviar dados para fora do aparelho de um modo que permita ao desenvolvedor ou aos seus parceiros acessá-los por mais tempo do que o necessário para atender ao pedido. Dados enviados a um servidor e descartados logo depois que o pedido é atendido não precisam ser declarados. Então um assistente cujo servidor repassa as suas palavras sem guardá-las pode estar ausente da etiqueta, e isso é coerente com as regras.

As etiquetas também são escritas pelo desenvolvedor. As páginas de terceiros na App Store dizem isso sob a etiqueta: “This information has not been verified by Apple” (esta informação não foi verificada pela Apple). Nosso guia sobre como ler as etiquetas de privacidade de apps de tarefas compara o que apps de tarefas conhecidos declaram.

Cinco perguntas antes de ativar um assistente

  1. Ele pergunta antes do primeiro pedido? Um assistente ligado por padrão já decidiu por você. Um que pergunta dá a você o momento de ler o que ele faz.
  2. O que entra em um pedido? Só a sua mensagem, ou também a sua lista, as notas e o chat anterior? Um bom app diz isso em palavras simples.
  3. Onde ele roda? No celular, no Private Cloud Compute da Apple ou com um provedor nomeado. “Na nuvem” não é uma resposta.
  4. Quem guarda o quê, e por quanto tempo? O servidor do desenvolvedor e o provedor de IA podem guardar dados cada um. Pergunte sobre os dois, e sobre treinamento.
  5. Você pode deixar algumas coisas de fora e desfazer o que ele muda? Um jeito de marcar itens como proibidos importa mais que qualquer promessa, porque não depende da política de ninguém. Nosso guia sobre manter notas e tarefas longe da IA trata das opções no iPhone, inclusive os ajustes da própria Apple para a Siri.

Mais um hábito que não custa nada: quando você cola uma lista em um chatbot geral, está usando as regras daquele chatbot, não as do seu app de tarefas. Se uma lista tem dados de saúde, dinheiro ou informações de outras pessoas, apare-a antes de colar.

Onde o Dozen ajuda, e onde não ajuda

O Assistente do Dozen foi feito em torno dessas perguntas. O Assistente é opcional e pergunta primeiro: nada é enviado a um provedor de IA até você permitir. As solicitações à nuvem passam pelo próprio servidor da Loopware até a OpenAI, e esse servidor repassa cada uma sem registrar nem guardar o que você escreveu. Tudo o que você marcar com a etiqueta No AI fica fora das solicitações do Assistente. Tudo o que tem a etiqueta No AI também fica fora do Spotlight, da Siri e do Atalhos. Sugerir etapas usa o modelo do próprio iPhone, e só recorre à OpenAI com o Dozen Pro, depois da sua permissão, quando o aparelho não consegue criar as etapas sozinho. Peça uma coisa ao Assistente e ela é feita, com Desfazer; peça várias e ele mostra primeiro, e nada muda até você confirmar. Você pode falar com o Assistente: suas palavras aparecem no campo de mensagem, e nada é enviado até você tocar em Enviar. Há mais sobre a etiqueta No AI e sobre o Assistente.

Onde não ajuda: O Assistente faz parte do Dozen Pro. O fato acima cobre o servidor da própria Loopware; não diz nada sobre um chatbot em que você mesmo cola a sua lista. O Dozen ainda não está na App Store. E, se você prefere não usar um assistente de IA, nunca precisa ativar um: uma lista de tarefas funciona perfeitamente bem sem ele.

Perguntas e respostas

Um assistente de IA lê a minha lista de tarefas inteira?

Não sozinho. Um modelo de linguagem não sabe nada sobre a sua lista até o app lhe enviar texto. Alguns apps enviam só o que você digitou; outros anexam itens recentes, ou deixam o modelo pedir ao app que busque coisas, e cada item que volta faz parte do pedido. Pergunte ao app qual é o caso.

A minha lista de tarefas é usada para treinar a IA?

Depende do provedor e do acordo que o app tem com ele. A OpenAI, por exemplo, diz que os dados enviados à sua API não são usados para treinar os seus modelos desde 1º de março de 2023, a menos que o cliente opte por isso. Um chatbot que você usa diretamente pode ter regras diferentes, então confira os ajustes dele.

Posso ver quando o meu iPhone envia um pedido à nuvem da Apple?

Sim, no caso da Apple Intelligence. A Apple descreve um relatório em Ajustes, Privacidade e Segurança, Relatório da Apple Intelligence e do PCC (em inglês, Apple Intelligence & PCC Report), que registra os pedidos enviados ao Private Cloud Compute no período que você escolher. Ele não cobre pedidos que um app envia ao próprio servidor ou a outro provedor.

Fontes

O que esta página diz sobre o Dozen foi verificado no app em .

Verificado em:

Baixe o Dozen

O Dozen é gratuito para baixar. O Dozen Pro, uma assinatura mensal ou anual, adiciona o Assistente.

Em breve para iPhone e iPad

Dozen: Tarefas e Notas

O Dozen é gratuito para baixar. O Dozen Pro, uma assinatura mensal ou anual, adiciona o Assistente.

Em breve para iPhone e iPad