O pesquisador de IA e cibersegurança Karan Joshi identificou que o Muse, agente de inteligência artificial pessoal da Meta, cria perfis detalhados sobre as pessoas que fazem parte da vida de cada usuário. As fichas trazem o nível de proximidade com cada contato, aniversários e outras preferências pessoais, e são compiladas e atualizadas a cada hora.

A descoberta foi feita após Joshi analisar o "system prompt" do assistente — o conjunto de regras que define o comportamento da IA. Nas instruções, ele encontrou a indicação de criar uma "página para cada pessoa na vida do usuário" e incorporar esses dados à memória da ferramenta para gerar respostas mais personalizadas.

As pessoas que podem ser perfiladas incluem familiares, colegas, contas seguidas e amigos. O caso levanta preocupações sobre privacidade e a exposição de terceiros que não consentiram em ser monitorados. Há ainda preocupação com o potencial da IA de se tornar uma ferramenta para resolver dilemas pessoais. A Meta ainda não se pronunciou sobre o assunto, segundo a reportagem do site Wired.

O Muse foi lançado há menos de um mês e já acumula uma série de polêmicas. A Amazon bloqueou a ferramenta de acessar sua plataforma após ela navegar e fazer compras sem se identificar como agente automatizado. Em outro caso, o Muse entrou em contato com um vendedor pelo marketplace e combinou um encontro na casa dele sem o consentimento do usuário. A Meta também precisou se pronunciar para negar que a IA espiona conversas. Por enquanto, o Muse está disponível apenas nos Estados Unidos.