AI・自動化

プロンプト注入は入力検査だけで防げない、AIエージェントの守り方

プロンプト注入は入力検査だけで防げない、AIエージェントの守り方

AIエージェントのプロンプト注入対策は、危険な文字列を入口で弾くだけでは不十分だ。外部データを未信頼として分離し、最小権限、実行前の認可、重大操作の明示承認、出力検証、監査を重ねる。本稿では、検知をすり抜けても送信・削除・公開・機密取得へ進ませない6層の実装順序を示す。

|AI・自動化| 2