もう少し詳しく
レッドチーム（レッドチーミング）とは、防御する側とは逆に、あえて攻撃者の立場に立って、システムやサービス、AIモデルなどに対して実際に攻撃・悪用を試み、弱点や抜け穴を見つけ出す検証手法のことです。「守る側」の視点だけでは気づきにくい弱点も、「攻める側」の視点に立つことで発見しやすくなるという考え方に基づいています。名称はもともと、軍事演習において味方（ブルーチーム）に対抗する仮想の敵役（レッドチーム）を置く手法に由来しています。
どこで使われるか
企業の情報システムに対するセキュリティ診断や、金融機関のシステムの耐性テストなど、従来型のIT分野で広く使われてきた手法です。近年では、生成AIの分野でも、AIモデルが不適切な回答を生成しないか、悪用につながる指示に従ってしまわないかを検証するために、レッドチーミングが行われるようになっています。AI開発企業は、新しいモデルを公開する前に、社内外の専門家によるレッドチーミングを実施し、危険な使われ方ができないかを確認する取り組みを行っています。
身近な例
AIチャットサービスが、危険物の作り方や、他人への嫌がらせに使えるような文章を作成してしまわないか、開発段階であえてそうした質問を投げかけて検証する作業は、レッドチーミングの一種です。同様に、企業が自社のシステムに対して、外部の専門家に依頼し、実際に不正侵入を試みてもらう「侵入テスト」も、レッドチーミングの代表的な例です。
注意点
レッドチーミングは、あくまで許可を得た上で、弱点を見つけて改善につなげることを目的とした検証行為です。同じように攻撃者の視点でシステムの弱点を探す行為であっても、許可なく他人のシステムやAIサービスに対して行えば、不正アクセスなどの違法行為にあたる可能性があります。レッドチーミングの結果、深刻な弱点が見つかったとしても、それだけで完全に安全になったことを意味するわけではなく、継続的な検証と対策の積み重ねが必要になる点にも注意が必要です。
