【気持ちいいだけの計測は卒業】アクショナブルメトリクスの実践【UX DAYS TOKYO 2019参加レポート】

ねんがんの ユーエックスデイズ に さんかしたぞ!

2019年4月7日(日)に開催された「UX DAYS TOKYO 2019」にて、Kate Rutter(ケイト・ルター)氏のワークショップ「アクショナブルメトリクスの実践~違いを生む指標:UX成功計測~」に参加してきました。

※この記事はワークショップのレポートです。

※もしも適切でない内容があればご指摘宜しくお願いいたします。

UX DAYS TOKYO 2019 って何?

UX DAYS TOKYOとは「UXをビジネスに役立たせ世界に負けない日本を作る」がコンセプトのUXの祭典です。

UXやマーケティングは欧米からの学びが多くありますが、日本導入までにタイムラグが発生したり、捉え方が本質と異なってしまうことがあります。このイベントでは日本にいながら、海外の最先端のUXが学べます。カンファレンスとワークショップの二本柱から成ります。カンファレンスは一日で六時間程度の講義。ワークショップは八時間の講義が二日に渡ってテーマごとに開催されます。

このワークで得られるもの

アクショナブルメトリクスの実践~違いを生む指標:UX成功計測~

このワークを行えばUXの測定ができるようになるということです。

アクショナブルメトリクスは「行動できる経営指標」です。このワークショップでは出来上がったUXを「違いを生む指標」によって「計測し」「成功へ導く」フローが紹介されました。

現在自分が所属しているのは「マーケティングコミュニケーション部」というところで、サービス自体を開発する部署ではありません。社内で出来あがったサービスをお客様に伝えていくのが主な業務です。UX開発とはまた少し違ったラインにいるとも考えられます。

しかしお客様の事を考え、サービスをコントロールしていく考え方はどんな仕事でも必要な普遍的な考え方です。また、その後に見られる数字(PVや直帰率、滞在時間など)は実務で成功をおさめるために大きく関わってくると常日頃感じています。このワークショップを通して、より今自分が携わっているプロジェクトに少しでも寄与できればと思い選択しました。

あとは単純に「超苦手分野」だったので、あえて閉鎖空間に八時間自分を拘束し勉強せざるを得ない状況を作り出したかった、というのもあります(真意)。

ワークショップ概要の紹介

Measure what Matters【トータルワーク8時間】 今回、説明部分を抜いた概要を一覧にしました。 8時間の内容の内訳は以下のとおりです。

今回はパートごとに分けて実際に行ったフローを紹介していきます。

はじめに

  • Hello!(各テーブルごとに自己紹介)【ワーク5分】
  • How do you measure UX now?(今どうやってUXを測定していますか?)【ワーク5分】

「意味合い(meaningful)」を理解するためのワーク

①フォーカスする点を選ぶ(Choose your focus)

  • Product Snapshot(製品スナップショット)【ワーク5分】

②顧客を特定する(Identify your customer)

  • rapid viz(ラピッドビズ:絵の書き方)
  • Speed-sketch(10人書いてみよう)【ワーク5分】
  • Customer Portrait(顧客の肖像)【ワーク10分】
  • Break【休憩30分】

③主な用途を見越す(Envision a Key Use)

  • Key Uses 6-up(キーとなる6つのシーンを描く)【ワーク15分】
  • Key Use(となりの人とシェア)【ワーク5分】
  • Dot-vote top picks(ドット投票)【ワーク1分】
  • Key Use(良かったものを再描画する)【ワーク5分】

「測定基準(metrics)」を理解するためのワーク

④重要な指標を確立する(Establish a Key Metric)

  • Brainstorm 3 ideas for metrics(メトリックスに関するブレスト3のアイデア)【ワーク5分】
  • Pick one to focus on(一つを選ぶ)【ワーク3秒】
  • Make it awesome(すごいものを作ろう)【ワーク10分】
  • Key Use(となりの人とシェア)【ワーク5分】
  • Put it on your dashboard(ダッシュボードに載せる)【ワーク3秒】
  • Lunch!【休憩1時間】

 

  • Discussion & clinic(ディスカッション&クリニック)【ワーク5分】
  • Pick a another one(別のものを選ぶ)【ワーク3秒】
  • Make it awesome(すごいものを作ろう)【ワーク4分】
  • Put it on your dashboard(ダッシュボードに載せる)【ワーク3秒】
  • Pick the third one(3つ目を選ぶ)【ワーク3秒】
  • Make it awesome(すごいものを作ろう)【ワーク2分】
  • Key Metric(キーメトリック)【ワーク5分】
  • Key Metric〜Dot-vote top picks(ドット投票)【ワーク3秒】

⑤データをキャプチャする(Capture the data)

  • Numbers〜UI Sketches(UIスケッチ)【ワーク15分】
  • Metrics Plan(メトリック計画)【ワーク10分】
  • Break【休憩30分】

⑥時間をかけて追跡する(Track over time)

  • Questions & Discussion(質問とディスカッション)【ワーク5分】

⑦物語を語る(Tell the story)

  • Put in this order(順番を並び替える)【ワーク10分】
  • Gallery【ワーク15分】

このフローを行うことでUX、サービス全体を測定できるようになる…!はずなのです。

はじめに

ここでやること

  • Hello!(各テーブルごとに自己紹介)【ワーク5分】
  • How do you measure UX now?(今どうやってUXを測定していますか?)【ワーク5分】

Hello!(各テーブルごとに自己紹介)【ワーク5分】

ワークショップ恒例の自己紹介です。

今回は一つのテーブルに5〜7名が着席しました。

このメンバーでグループワークを進めていくことになります。

How do you measure UX now?(今どうやってUXを測定していますか?)【ワーク5分】

現在自分の仕事でどうやってUXを測定しているかを考える時間。

アクセス解析?だけでは弱い、という基本的なことすら自分は気付いていませんでした。

UX=顧客体験の測定はサービス全体の測定ということになりますし、問い合わせのボタンが押されるようになっただけでは帰結しないのです。

3つの質問

UXサービスの測定をしていくにあたり、考えなくてはいけない3つの質問です。

3つの質問

  • 1. 私たちは何を達成しようとしていますか? =Words 言語的表現
  • 2. それはどのように見えますか?= Pictures 視覚的表現
  • 3. 作業をどのように測定し、進捗状況を追跡しますか? =Numbers 数値的表現

上記の3つの質問に答えていくためにするのが、以下のワークです。

「意味合い(meaningful)」を理解するためのワーク

  • ①フォーカスする点を選ぶ
  • ②顧客を特定する
  • ③主な用途を見越す

「測定基準(metrics)」を理解するためのワーク

  • ④重要な指標を確立する
  • ⑤データをキャプチャする
  • ⑥時間をかけて追跡する
  • ⑦物語を語る

UX stack

今回はUXサービスの概念として「UX stack」というフロー図を元に考えていきます。

UXサービス改善とは、「ユーザー=水」を「サービスプロダクト=バケツ」に集めて、そのバケツから零れていく水をできるだけ少なくすることです。

この図ではUXサービスをプロダクトに落とし込んでいく考えを下記の流れでまとめています。 ユーザーは、なにか目的をもっています。それを我々は予測し、良い特長を把握し、プロダクトに落とし込んでいく必要があります。

では実際にワークを始めていきます!

①フォーカスする点を選ぶ

ここでやること

  • Product Snapshot(製品スナップショット)【ワーク5分】

Product Snapshot(製品スナップショット)【ワーク5分】

製品スナップショットはすぐできます。三つの項目を埋めるだけでUXサービス全体の大枠をつかむことができます。

  • People(人は誰ですか)いわゆるペルソナ部分。
  • problem(どんな問題がありますか)そのペルソナが持っている問題。
  • solution(提案は何ですか)問題解決のアイデア。

これをできるだけ具体的に紙に書いていきます。

普段の仕事で成果物をつくっていても直ぐに活用できるフレームワークですね。

  • ユーザーは問題を持っている=have
  • ユーザーはソリューションを使う=use
  • ソリューションは問題に対応する=addresses

と3つの円が相互に関わっています。

「誰にでも使えるものをつくろうとすると誰にも使えない」

だからこそ、誰に使ってもらうのかをはっきりさせます。

②顧客を特定する

ここでやること

  • rapid viz(ラピッドビズ:絵の書き方)
  • Speed-sketch(10人書いてみよう)【ワーク5分】
  • Customer Portrait(顧客の肖像)【ワーク10分】

rapid viz(ラピッドビズ:絵の書き方)

お絵かき講座。絵が苦手でも、◯、△、□、☆で大体解決できるお話。

詳しくは省略します。別途やります。

Speed-sketch(10人書いてみよう)【ワーク5分】

◯と☆を使って人を10人書く。省略。

Customer Portrait(顧客の肖像)【ワーク10分】

自分はテーマが決めきれず2つのサービスについて考えています。そのため2キャラ書いています。

  • Meet ユーザーの名前やプロフィール
  • Their Story 彼らのバックボーン
  • Needs & goals... 何に困っていて、何がゴールなのか。

できるだけ具体的に書いていきます。

人物に表情を付けたり、背景を書いてみるのもよりイメージが具体的になっていきます。

③主な用途を見越す

ここでやること

  • Key Uses 6-up(キーとなる6つのシーンを描く)【ワーク15分】
  • Key Use(となりの人とシェア)【ワーク5分】
  • Dot-vote top picks(ドット投票)【ワーク1分】
  • Key Use(良かったものを再描画する)【ワーク5分】

Key Uses 6-up(キーとなる6つのシーンを描く)【ワーク15分】

顧客の肖像、で描いた人物が、UXサービスを使っているシーンを6つ想像して書いてみます。

どんな表情で、どんな場所で、どんなことを考えているでしょうか。

↑の紙ではスマートカフェのサービスについて記述しています

Key Use(となりの人とシェア)【ワーク5分】

「Key Uses 6-up」を同じ席のメンバーに見せます。

Dot-vote top picks(ドット投票)【ワーク1分】

良かったものについて投票をします。

レジの無いカフェで、イライラせず荷物を受け取るペルソナの図。

今回は自分で自分のアイデアにシールを貼りましたが、おそらく複数人で投票をやるのが望ましいと思われます。

Key Use(良かったものを再描画する)【ワーク5分】

こちらの絵を更に具体的に再描画します。

シールに投票したアイデアを仔細に書きます。サービスのタイトルと、出来ることも書いて明確にしておきます。

④重要な指標を確立する

ここでやること

  • Brainstorm 3 ideas for metrics(メトリックスに関するブレスト3のアイデア)【ワーク5分】
  • Pick one to focus on(一つを選ぶ)【ワーク3秒】
  • Make it awesome(すごいものを作ろう)【ワーク10分】
  • Key Use(となりの人とシェア)【ワーク5分】
  • Put it on your dashboard(ダッシュボードに載せる)【ワーク3秒】

重要な指標を確立する(Establish a Key Metric)

よい指標とは…

ユーザーがプロダクトを使用するのを測定する。

そのために大事な5つの項目。指標はこの5つが守られている必要があります。

①明確で具体的であること

②比較することができること

③正規化されていること

④実用的であること

⑤行動を変えるものであること

測定チェックリスト

上記の5つの項目が具体的にどういうものかというと…

たとえば「サインアップして他のチームメンバーとタスクが共有できるサービス」があったとします。

この場合、指標として使用しがちなのが「サインアップ数」です。これはUXサービスの改善指標としては「まったく役に立たない指標(unhelpful)」と言えます。

「登録ユーザーの総数」といった指標は「気持ちよくなるだけの指標(vanity)」といえます。上がり下がりによって一喜一憂できる、でもユーザーがサービスで問題解決が出来ているかはここからは読み取れません。

ここに要素を足していくことによって素晴らしい(awesome)指標へと強度を上げていくことが可能になります。ここでいう素晴らしい指標「1週間に1日に3回以上タスクを共有するユーザーの割合」です。

では、実際に最強の指標をつくってみます。

気持ちいいだけの指標からの卒業!

Brainstorm 3 ideas for metrics(メトリックスに関するブレスト3のアイデア)【ワーク5分】

先で作成した「Key use(ユーザーが使用しているシチュエーション)」を判断するために、指標つくってみます。

まずは3つアイデアをだします。

ワークショップで大事なのは「的外れでもいいから絶対時間内に出すぞ」という強い気持ち。

また現在の技術で数字が取りにくいものに関してもがんがん出していくのが大事だそうです。

自分は「お客さんのイライラ度を図る」なんて書いていますが、これはなかなか数値化が難しそうです。

Pick one to focus on(一つを選ぶ)【ワーク3秒】

3つのアイデアのうち一つを選びます。

Make it awesome(すごいものを作ろう)【ワーク10分】

具体的な数字を指定すること。

一週間辺り、など時間の区切りをもたせること。

を加えることで指標の強度が増していきます。

Key Use(となりの人とシェア)【ワーク5分】

作成した指標をメンバーとシェアします。

指摘などをいただきながら、上記の具体的な数字などを盛り込み、強度の高い指標を目指していきます。

Put it on your dashboard(ダッシュボードに載せる)【ワーク3秒】

最終的に出来た指標はこちら。

スマートカフェというUXサービスがあり、そのサービスの指標として考えられるものは

イライラさせない=滞在時間が短い状態を目指す、とすると

来店してから注文を受けるまでの時間が

他のテイクアウトコーヒー販売店(カフェ、コンビニなど)と比べて

1セッションあたり、平均◯分かかっているかを一週間計測する

となりました。

⑤データをキャプチャする

指標を作ったら、今度はそのデータをどうやってキャプチャ(集める)するかを考えます。

計装(Instrumentation)

あなたにとって重要な数字を捉えるためのテクノロジーをセットアップするプロセス。

これは多くの場合、アナリティクスパッケージの使用またはカスタムコードの作成を意味します。

データを収集するには大きく分けて3つの方法があります。

  • 非技術的であること
    • アンケートやカスタマーに報告するといったもの。お客様の方から自主的に報告してもらうもの。サンプルセットも小さくなるし、情報の精度も落ちるのが難点。
  • 「手作業による」技術であること
    • 数値を手入力でエクセルに投入して解析をする。会社リソースもかからない
  • ソフトウェアを使った専門技術であること
    • 特殊な解析ソフトなどを利用する。テクニカルリソースの一番大きな部分を閉めます。どれを測定したいか、計測したいかがはっきりしていないとリソースが高すぎます。

があげられます。

Numbers〜UI Sketches(UIスケッチ)【ワーク15分】

今回のUXサービスは、主にデジタルサービスを想定しています。

そこで、UIの中で、どうやったらこれまでの指標に必要な値を計算できるかを考えていきます。このボタンを押すところで計測をする、など検討をつけます。

タイムスタンプ、ID、があれば、そのままデータファイルとしてダウンロードすることが可能です。ユーザーIDは行動データとして計測することが可能です(この時、ユーザーが許可を出しているかチェック)

また、メトリクスとして計算できるようにするためには、基準の数字を明確にしておく必要があります。二回目のシェア、三回目のシェア、と回数を取ってはじめて有効にする、などデータをどのように計算するのかも合わせて考えていきます。

例えば、ボタンを押した時にどんな情報が取れるのかを明記していきます。

Metrics Plan(メトリック計画)【ワーク10分】

UIのどこを使ってデータを採取するか決めた後は、どんな感覚で採取するかを決めていきます。

実際に計算式などを使用し、実装するチームメンバーへ伝える時に相手への負担を減らすことが出来ます。

また具体的な数値や予測をすることに寄って、提案側である我々を理解してもらいやすくなるでしょう。

⑥時間をかけて追跡する(Track over time)

測定基準装置(Metric Tracker)

そして実際に計測していくものがこちらのシート。

理想的なものがスライドとして紹介されました。

ベースライン=2%

ゴール=20%

として一定の機関にデータを採取します。

実際にはこんなにきれいな数字にはならない…というのが実情。

もしも迷ったとき、あるいは取った値が間違っていた時、には前の項目に戻り、ひとつひとつ確かめ、再考していく必要があります。実に地道な作業です。

⑦物語を語る(Tell the story)

最後にいままで作ったワークを人つなぎにし、ストーリーを作成します。

①プロダクトスナップショット

②カスタマーポートフォリオ

③ Key Use

④ メトリクスダッシュボード

⑤ メトリクスUIスケッチ

⑥ キーメトリクスプラン

 

「意味合い(meaningful)」を理解するためのワーク

  • ①フォーカスする点を選ぶ
  • ②顧客を特定する
  • ③主な用途を見越す

「測定基準(metrics)」を理解するためのワーク

  • ④重要な指標を確立する
  • ⑤データをキャプチャする
  • ⑥時間をかけて追跡する
  • ⑦物語を語る

これで全てのワークが終了しました。

最後に張り出されたものを回覧して終了です。

完走した感想

このフローを、そのまま適応するには難しいかもしれない、と思いました。 なぜなら、UXサービスにはさまざまなケースが存在するからです。

それでも、「指標をより強くする」という発想は非常に刺激的でした。 いままで漠然とグラフの上がり下がりだけを見ていましたが、PVが増えたり、直帰率が下がって、わーいと嬉しがる、それは今回の講義でいうところの「自分が気持ちよくなるためだけの」データということなのですね。

今回、自分で考えた指標を「Awesome」の状態まで持っていくのには大変悩みました。 正解、というのはないのでしょう。 その時の状況や目的によって、組み合わせる数値はかわってきます。 やってみて、あっているかどうかを確かめて、また考えて… 非常に地味な近道のない作業です。しかし、それこそがプロダクトを最短で強化していくための近道なのでしょう。

ユーザーの事を考え、ユーザーがなにを目標としたいのかを考え、それに対してアプローチしていくという基本的な考え方は変わらないですね。今後も勉強を続けていきたいです。

おすすめ書籍

最後に講義の中で挙げられていたおすすめ著書へのリンクをはっておしまいにします。

やっぱりリーンスタートアップって大事ですね!

 

リーン・スタートアップ ムダのない起業プロセスでイノベーションを生みだす エリック リース

UX for Lean Startups: Faster, Smarter User Experience Research and Design

Lean Analytics ―スタートアップのためのデータ解析と活用法 (THE LEAN SERIES) アリステア・クロール 

ユーザーエクスペリエンスの測定 (情報デザインシリーズ) トム・タリス