対戦型攻撃における6つのAI用語を探索
コンテキストポイズニングは、AIモデルに提供される文脈を操作して偏った出力を生成させる敵対的手法です。
カリキュラムポイズニングは、AIモデルの性能を低下させるようにトレーニングデータを操作することです。
高速勾配符号法は、機械学習における敵対的サンプルを生成する手法です。
Leakage攻撃は、AIシステムの脆弱性を利用して、モデルやトレーニングデータから機密情報を抽出する攻撃です。
モデル注入は、悪意のある入力を注入してAIモデルの動作を変更する攻撃の一種です。
モデル中毒は、悪意のあるデータを導入することで機械学習モデルを危険にさらす攻撃です。