Explore 6 termos de IA em Ataques Adversariais
Envenenamento de contexto é uma técnica adversarial que manipula o contexto fornecido aos modelos de IA para produzir resultados tendenciosos.
Envenenamento de currículo envolve manipular dados de treinamento para degradar o desempenho do modelo de IA.
O Método do Sinal do Gradiente Rápido é uma técnica para gerar exemplos adversariais em aprendizado de máquina.
Um Ataque de Vazamento explora vulnerabilidades em sistemas de IA para extrair informações sensíveis de modelos ou dados de treinamento.
Injeção de Modelo é um tipo de ataque que manipula modelos de IA ao injetar entradas maliciosas para alterar seu comportamento.
Envenenamento de modelo é um ataque que compromete modelos de aprendizado de máquina ao introduzir dados maliciosos.