Falha na função de 'compaction' da OpenAI permitiu extrair o raciocínio oculto do modelo
A empresa de segurança Xint demonstrou que o recurso de compactação de conversas longas da OpenAI, pensado para economizar espaço de contexto, podia ser abusado para copiar em texto puro o raciocínio interno que o modelo normalmente devolve apenas como um item criptografado e ilegível para o usuário. A falha rompe a barreira de confidencialidade que deveria separar o processo de "pensamento" do modelo da resposta final entregue ao usuário.
Fonte ↗