もう少し詳しく

分類器ぶんるいきとは、文章や画像、通信内容といったデータを入力すると、あらかじめ用意された複数のカテゴリー(クラス)のうち、どれに該当するかを判定して出力する仕組みのことです。「迷惑メールかどうか」「危険な内容を含むかどうか」といった二択の判定から、多数のカテゴリーに振り分ける判定まで、幅広い用途で使われています。近年は、AIモデル自体に加えて、AIモデルへの入力や出力をチェックする役割として、専用の分類器を組み合わせる設計もよく使われます。

どこで使われるか

メールサービスの迷惑メール判定、SNSの不適切な投稿の検出、そしてAIチャットサービスが危険な依頼や悪用目的の質問を検知する安全対策(セーフガード)など、さまざまな場面で使われています。AI企業各社は、モデル本体とは別に、やり取りの内容を監視する分類器を組み合わせることで、モデル自体を作り直さなくても対策を更新できるようにしています。

身近な例

メールソフトが自動的に迷惑メールフォルダへ振り分けてくれる機能は、分類器の代表的な活用例です。写真アプリが「犬」「猫」「風景」といったタグを自動でつけてくれる機能も、画像を対象にした分類器の一種です。

注意点

分類器は完璧ではなく、本来問題のない内容を誤って危険と判定してしまう「誤検知」や、逆に問題のある内容を見逃してしまう「見逃し」が一定の割合で発生します。分類器の精度をどう評価するかは、これら2種類の誤りのバランスをどう取るかという問題でもあります。