Extraction de modèle
Model extraction refers to the process by which an individual or entity attempts to replicate a apprentissage automatique model’s behavior and functionality by querying it. This is often done to gain access to the proprietary knowledge embedded in the original model without direct access to the model itself. The extracted model may not be identical to the original but can exhibit similar performance on specific tasks.
Le processus consiste généralement à envoyer une série d'entrées au modèle cible et à analyser les sorties qu'il génère. En faisant varier systématiquement les entrées et en observant les sorties, un attaquant peut déduire les schémas sous-jacents et les frontières de décision utilisées par le modèle. Cette technique est particulièrement préoccupante dans les cas où le modèle original est entraîné sur des données sensibles ou propriétaires, car elle peut conduire à un vol de propriété intellectuelle ou à la divulgation involontaire d'informations privées.
Model extraction attacks can occur in various contexts, including cloud-based machine learning services, where companies provide access to their models via API. Sécurité measures such as limitation du taux, bruit de sortie addition, and input sanitization can help mitigate the risks associated with model extraction. However, as machine learning technologies continue to evolve, so too do the tactics employed by attackers, making it essential for organizations to remain vigilant about the security of their modèles d'IA.
Overall, model extraction presents significant challenges for the protection of intellectual property and sensitive data in the domaine de l'intelligence artificielle.