Pesquisador mapeia 13 pontos onde harnesses de descoberta de vulnerabilidades por IA descartam achados sem aviso
Gadi Evron mapeou 13 pontos de engenharia em que harnesses de descoberta de vulnerabilidades baseados em LLM podem descartar silenciosamente código ou achados reais, independentemente da capacidade do modelo subjacente. Ao examinar doze harnesses de código aberto, incluindo dois mantidos pelo próprio autor, ele mostrou que seis deles descartaram um mesmo arquivo de teste antes que o modelo chegasse a analisá-lo, cinco sem qualquer aviso de que isso havia ocorrido.
Fonte ↗