[新機能] Amazon Rekognitionで「暴力」および「過激な描写」が検出できるようになりました

はじめに

この記事は「ブログにしていなかった新機能を拾っていくぞ」のコーナーです。

今回ご紹介する新機能は2019年8月9日にリリースされたこちら！

• Amazon Rekognition で、暴力、兵器、自傷行為に関連した画像および動画の検出が可能になり、ヌード検出の精度も向上しました

これまでのRekognitionでは「明示的なヌード」および「暗示的なヌード」を検出することが出来ました。今回のアップデートで、「暴力」および「過激な描写」についても検出することができるようになりました。

具体的なモデレーション対象のコンテンツラベルはドキュメントに記載されており、以下の通りです。Explicit Nudity(明示的なヌード)とSuggestive(暗示的なヌード)はこれまでも検出できており、今回追加されたのがViolence(暴力)とVisually Disturbing(過激な描写)です。

Top-Level Category	Second-Level Category
Explicit Nudity	Nudity
	Graphic Male Nudity
	Graphic Female Nudity
	Sexual Activity
	Illustrated Nudity Or Sexual Activity
	Adult Toys
Suggestive	Female Swimwear Or Underwear
	Male Swimwear Or Underwear
	Partial Nudity
	Revealing Clothes
Violence	Graphic Violence Or Gore
	Physical Violence
	Weapon Violence
	Weapons
	Self Injury
Visually Disturbing	Emaciated Bodies
	Corpses
	Hanging

やってみた

とりあえずやってみましょう。しかし！この手の画像検出でいつも問題になるのは著作権問題です。しかし！なんとAmazon Rekognitionのデモ機能である「画像の節度」は、分析した画面をボカして表示してくれます。これは便利。ということでやってみます。

まずは武器の画像。拳銃の写真を使ったところ、Weaponsとして認識されています。

こちらは「マッドマックス 怒りのデス・ロード」のある場面の画像ですが、Weapon Violenceとして認識されました。

こちらは「KG カラテガール」という映画で、主人公の女子高生が飛び蹴りしているシーンなのですが、Physical Violenceとして認識されました。

こちらはゾンビコスプレの画像。Graphic Violence Or Goreとして認識されました。

ということで、ちゃんと「暴力」および「過激な描写」の検出が出来ていますね！

さいごに

実際にコンテンツをフィルタリングする際には、やはりヌードだけではなく暴力的な表現についてもモデレーションする必要があります。Amazon Rekognitionを使ったコンテンツ分析とフィルタリングが更に便利になりましたね。