O que os LLMs sabem sobre seus usuários

Simon Willison fala sobre o novo recurso de arquivo de memória do ChatGPT e a quantidade de informações que o LLM – e a empresa – sabem sobre seus usuários. Ele destaca detalhes específicos, desde preferências de resposta até insights úteis do usuário e metadados de interação. Willison observa a quantidade extraordinária de detalhes acumulados pelo modelo sobre ele, levantando questões sobre a capacidade dos LLMs de gerar perfis detalhados dos usuários. Ele menciona que, apesar de ocasionalmente cometer erros, os LLMs estão abrindo um novo mundo de vigilância íntima.