De vez em quando, a OpenAI aparece envolvida em polêmicas. Dessa vez, um relatório foi divulgado apontando que o ChatGPT estaria expondo informações confidenciais, como logins e senhas, durante suas conversas com os usuários.
Essa falha de segurança foi divulgada pelo portal ArsTechnica na segunda-feira (29). Capturas de tela compartilhadas abaixo mostram que o chatbot da OpenAI está exibindo essas informações durante interações que não têm relação com o assunto.
Uma dos prints mostra nomes de usuário e senhas de um sistema de suporte utilizado pelos funcionários, de uma farmácia que prescreve medicamentos. Ao que parece, um contratado da empresa utilizou o chatbot da OpenAI para tentar resolver algum problema na página, conforme relatado.
Quais foram os dados “vazados”?
Nas outras conversas mostradas pelo ChatGPT, apareceram detalhes de uma proposta de pesquisa que não foi publicada, scripts usando a linguagem PHP e o nome de uma apresentação que estava sendo feita. As interações parecem ter sido feitas por pessoas diferentes, segundo a reportagem.
É bom lembrar que a IA generativa já teve outros vazamentos, mostrando dados de assinantes e conversas para outras pessoas em março de 2023, além de informações usadas no seu treinamento, em novembro do ano passado. A OpenAI disse que está olhando o caso que foi relatado agora e deve dar mais detalhes em breve.
Como o ChatGPT fez isso?
A grande questão é: como os dados do ChatGPT foram vistos? As senhas mostradas pelo ChatGPT apareceram sem querer para o usuário da plataforma Chase Whiteside.
Ele disse que pediu ajuda à IA para achar nomes legais para cores em uma paleta, no domingo (28), e a tecnologia mostrou as conversas com outras pessoas depois.
“Elas não estavam lá quando eu usei o ChatGPT ontem à noite (eu uso bastante). Não fiz nenhuma pergunta — elas só apareceram no meu histórico e com certeza não são minhas (e também não acho que sejam da mesma pessoa)”.
Chase Whiteside, em entrevista ao site ArsTechnica.
Esse é um problema recorrente na indústria, e muito provavelmente não será a última vez que vamos presenciar notícias como essa. Por isso, é importante ter cuidado com o tipo de dados que você expõe aos chatbots. Especialistas recomendam não escrever informações secretas durante as interações com a tecnologia.
