攻撃

単語カード

設定全面表示

• 不正な入力(プロンプト)を行うことで、開発者が意図しない誤作動で情報などを引き出す攻撃

  プロンプトインジェクション
• 教師なし

  類似グループに分類
• 強化学習

  報酬が最大となるよう、AI自身が繰り返し試行錯誤(対戦ゲーム)
• ユーザーが拒否すると、そのデータは活用されない

  AIサービスのオプトアウトポリシー

広告

コメント