Microsoft 社は2023 年 10 月、同年 5 月にプレビュー版として提供していた「 Azure AI Content Safety 」の一般提供を開始しました。コンプライアンスが重視される現在において、自社発信によるコンテンツに有害なテキストや画像が含まれていれば、企業の信用は大きく揺らぎかねません。
本記事では、テキストや画像に不適切な内容が含まれていないかをチェックする Azure AI Content Safety の機能、特徴、利用方法、料金をお伝えします。 自社が発信する情報のチェック効率化にお悩みの担当者の方はぜひ、参考にしてください。
Azure AI Content Safety とは？
Azure AI Content Safety とは、 AI を使用してコンテンツを監視するシステムです。ユーザーが自社の Web サイトやアプリケーションを安心して利用できるよう、有害なテキスト、画像などを迅速に検出し、重大度スコアを瞬時に割り当てます。
Azure AI Content Safety の機能
Azure AI Content Safety の主な機能（使用できる API ）は次のとおりです。
| 使用できる API の種類 | 具体的な機能 |
| テキスト分析 API | 性的コンテンツ、暴力、憎悪、自傷行為に関するテキストを複数の重大度レベルでスキャンする |
| 画像分析 API | 性的コンテンツ、暴力、憎悪、自傷行為に関する画像を複数の重大度レベルでスキャン |
| プロンプトシールド（プレビュー） | 大規模言語モデルに対するユーザー入力攻撃のリスクがないか、テキストをスキャンする |
| グラウンデッドネス検出 (プレビュー) | 大規模言語モデル のテキスト応答が、ユーザーが提供するソース資料に基づいているかどうかを検出する |
| 保護対象テキストの検出 (プレビュー) | 既知のテキスト コンテンツ (曲の歌詞、記事、レシピ、一部の Web コンテンツなど) がないか、AI によって生成されたテキストをスキャンする |
| カスタム カテゴリ (急速) API (プレビュー) | 新たな有害コンテンツ パターンを定義し、テキストと画像をスキャンして一致を確認する |
参照元：Microsoft「Azure AI Content Safety とは?」
Azure AI Content Safety の特徴
Azure AI Content Safety が持つ主な特徴は次の 3 点です。
文章の意味と文脈を読み解き解析できる
Azure AI Content Safety は記載された文章の意味と文脈から有害なものであるかどうかを読み解き分析することが可能です。そのため、設定時に有害な文言をすべて指定する必要はありません。
画像についても対応している
Azure AI Content Safety はテキストだけではなく、有害な画像検出にも対応しています。 Microsort が持つ画像処理の汎用化に向けた Foundation モデル「 Florence 」のテクノロジーを使い、画像内にある有害なオブジェクトの適切な検出が可能です。
多言語対応できる
多言語に対応しているのも Azure AI Content Safety の特徴です。どのような言語で入力されたテキストでも設定したポリシーで有害かどうかの判断を行います。海外ユーザー向けにコンテンツを発信する企業にとって欠かせない機能といえるでしょう。
Azure AI Content Safety の使用方法
Azure AI Content Safety の使用方法について、ここではテキストコンテンツ分析の使い方を解説します。
- テキストコンテンツのモデレートページ（https://contentsafety.cognitive.azure.com/text）へ移動する
- テキストコンテンツのモデレートパネルを選択する
- 入力フィールドに任意のテキストを入力するもしくはページ上にあるパネルからサンプルのテキストを選択する
- 「テストの実行」を選択する
- 入力したテキストの内容により検出されたカテゴリーと重大度レベルが表示される
なお、「ブロックリストを使用する」を選択すると任意のリストを追加したテストが実施できます。
Azure AI Content Safety の料金
Azure AI Content Safety は従量期課金制モデルとなっています。Azure AI Content Safety の料金は次のとおりです。なお、料金は 2024 年 6 月 18 日現在（ 1USD＝157.5JPY ）で、東日本リージョンのものとなります。
| インスタンス | 機能 | 料金 |
| Free – Web | テキスト
プロンプト シールド 保護された素材の検出 根拠性の検出 |
5,000 ( 1 か月あたりのテキスト レコード) |
| 画像 | 5,000 (1 か月あたりの画像数) | |
| Standard – Web | テキスト
プロンプト シールド 保護された素材の検出 根拠性の検出 |
1,000 テキスト レコードあたり ¥59.07 |
| 画像 | ¥118.13 ( 1,000 画像あたり) |
参照元：Microsoft「Azure AI Content Safety の価格」
実際に利用する際は Microsoft の公式ページでご確認ください。
Azure AI Content Safety でコンテンツの安全性を確保しよう
Azure AI Content Safety とは、 AI を使用してコンテンツを監視するシステムです。ビジネスとして Web サイトやアプリケーションでコンテンツを発信する際、ユーザーが安心して利用するために欠かせないシステムといえます。
自社発信のコンテンツに有害なテキストや画像があれば企業の信頼失墜は免れません。しかし、特にユーザーからの投稿もあるようなコンテンツの場合、すべてをチェックするには多大な時間と手間を要します。
Azure AI Content Safety は担当者のチェックにかかる時間や手間の軽減を実現し、有益なコンテンツ作成にかける時間の確保が可能です。コンテンツのチェックにかかる負担軽減を検討されている際は、 Azure AI Content Safety の活用をおすすめします。
