AWSのデザイナー
No, AI user research is not “better than nothing” — it’s much worse
すべての記事には目に見えない読者が存在し、その視線は1回の閲覧、1回の読了、1回の 「いいね！」よりもはるかに多くカウントされる。その読者とは、もちろんアルゴリズムである。
検索エンジンのページランキングアルゴリズムとクローズドプラットフォームのアルゴリズムフィードの間で、その無言の影響力は私たちの書き方を歪めている。
短い記事、より頻繁な出版、より多くのリンク、より多くの画像。私たちは人間のために記事を書くが、私たちが書いたものを人間に見てもらいたければ、まず機械のために書かなければならない。
一方で、UXのパラダイムは正反対だ。私たちは文字通りユーザーの体験を創造し、テクノロジーはそのために活用される。もし製品がその役割を果たさなければ、ユーザーはその製品をやめて別のものを選ぶだろう。
そこで、利害関係者をなだめることもできず、自主的にアルゴリズムに屈服するデザインに対する私の苛立ちを想像してほしい。デザインのリーダーたちは、「何もしないよりはましだ」とか「より効率的だ」という理由で、デザインプロセスの一部をAIで代用することをますます提唱するようになっている（そもそも「何もしない」デザインに誰が責任を負っているのか、都合よく忘れている）。
デザインの要点は、直線的で機械的な思考では解決できない問題を解決することにある。ユーザーのニーズを理解するためにLLMに頼ることを常態化させれば、私たちは「ユーザーのためのチャンピオン」であるという主張を放棄し、出版プロセスと同じように、デザインプロセスもAIが生成した汚泥に乗っ取られる底辺への競争を始めることになる。
品質や正確さなどを訴えても、作家には通用しなかったし、デザイナーにも通用しないだろう。通用するのはただ一つの主張だけだ。 アルゴリズム主導のデザインは、企業を大損させる。
ビジネスとしてのソフトウェア
「ビジネスモデルが許す限り、デザインは人間中心である。」-エリカ・ホール
AIツールに関する他のすべてのことと同じように、これはまったく新しい話ではなく、むしろ非常に古い話の続きである。つまり、デザイナーにはお金がかかるから、私たちにお金を払ってくれる方がいい。
では、お金の話をしよう。ビジネスは、生産したものを販売（SaaSの場合はレンタル）することで収益を上げる。しかし、アウトプットは生まれながらにして同じではない。私たちの目的にとって重要なのは、製品とコモディティを区別することである。コモディティは製品とは異なり、交換可能である。穀物の袋やコンクリートの袋がどれも本質的に同じである。一方、ウェブ・ブラウザやテキストエディタのように標準化されたものであっても、それらが交換可能であると少しでもいえば、人々は怒るだろう。
ハイテク企業は、自分たちが売っている製品が革新的で、ユニークで、今までに見たことがないものだと顧客に信じ込ませることで、何兆ドルもの利益を得た。競合他社と単純に機能ごとに比較することができない製品に莫大な値札をつけ、その利益をイノベーターであり、よりユニークで見たこともないようなアイデアを出して売ることができる従業員の雇用に投じることができたのだ。
一方、あなたの2x4木製ボードが競合他社の2x4木製ボードと同じである場合、あなたはほとんど同じ価格を請求しなければならず、利益を増やす唯一の方法は単位当たりのコストを下げることである。つまり、効率を高めるのだ。
もしすべてのハイテク企業がアイデア創出を同じところにアウトソーシングしたらどうなると思うだろうか？ユニークな人間のイノベーターを、コモディティ化したロボットからの交換可能なインサイトで代用することで、効率を倍増させようとすれば、彼らのソフトウェアもコモディティ化してしまうだろう。
アルゴリズム再生産時代のデザイン
「複製によって本当に危うくなるのは、対象なるモノの権威である」
- ヴァルター・ベンヤミン
AIの 「デザイン 」を擁護する際には、（GPTの出力と同じように）あまりに一般的で、それ自体が実質的な日用品となっている2つの反論が必ず出てくる。
AI懐疑論者はこう言うだろう。
「 私たちはLLMを単なる出発点として、あるいはアイデアを出し合い、その成果を検証するためにしか使いません。」
AI支持者たちはこう言うだろう。
「 私たちのモデルにはこのような問題はありません。私たち自身が訓練するのですから、他にはない高品質なものになります。」
これらの立場は正反対に見えるかもしれないが、同じ答えで片付けることができる。
デザイン批評で私が好きな質問のひとつに、「ユーザーは今日何をしているのか？」というものがある。ここで問いかけるには有益な質問だ。
プロダクトチームは、自分たちの事実がどこから来て、どのような意思決定がそれらに基づいているのかを思い出せるように、意思決定の出所を注意深く管理しているのだろうか。
それとも、何年も前になされた思い込みが事実として定着してしまうような、出所健忘症に苦しんでいるのだろうか。
プロダクトチームは、自分たちの仮説を反証するためにリサーチを行うのか、それとももっぱら仮説を検証するためにリサーチを行うのか？プロダクトチームは、リサーチをループとして扱うのか、それとも、一度やったら二度と見直す必要のない段階として扱うのか？
また、どのような人々がAIに助けを求めているのだろうか。堅牢なリサーチ・プロセスを持つ人々か、デューデリジェンスを省略することに最も関心のある人々か。リサーチ業務に巨額の投資を惜しまない人たちか、予算や手抜きをしたい人たちか。
洞窟の寓話は、幻覚の研究結果の有用性を示す適切な比喩である
システムの目的とは、それが何をするかということである
「悪い研究の影響は想像以上に深刻」 - マルティナ・ギルクリスト
結局のところ、リサーチを 「合理化 」するかどうかの決断は、デザインについて問われるのと同じ、悪名高い問いに帰着する。時間とお金を費やさなければならないほど、リサーチに価値があるのだろうか？
答えは「顧客の声」である。しかし、私はこの言葉を他の人よりも少し文字通りに使っている。
通常、「顧客の声 」と呼ばれるものは、「顧客が言いそうな表現をすること 」である。この考え方の問題点は、ユーザーリサーチャーの誰もがよく知っているように、「〜だろう （would）」は信頼できないということだ。私たちは、「あなたは.どうしますか？(would you)」と尋ねない。「あなたはどうしましたか？(how have you)」と尋ねるのだ。本当に重要な顧客の声は、実際の顧客、つまり目玉と人差し指と財布を持つ顧客が言ったことだけである。
経営幹部はこれを聞くとしばしば反発し、「市場を最大化するためには幅広く展開する必要がある」と主張する。しかし、それは101レベルの間違いである。一人の人間の問題理解に焦点を当てることは、あなたのソリューションの魅力を制約することにはならない。むしろ逆だ。
映画『Objectified』では、IDEOが 「歯を持つすべての人 」ではなく、ブラッシングを学ぶ小さな子どもたちのニーズに特化することで、アクセシブルで人気の高い歯ブラシをデザインしたことが説明されている。アラン・クーパーはさらに踏み込んで、実際に会って話をした一人の人だけを念頭に置いてプログラム「Plan*It」をデザインした。
「顧客が実際に言ったこと」の価値に比べれば、「顧客が言いそうなこと」は何の価値もない。しかし、それこそがLLMの仕事なのだ。LLMには生活体験がないため、製品の使用とその背景がどのように交わるかを理解するためにドリルダウンすることは不可能なのだ。人間とは異なり、プロンプトを変化させても、モデルの中にないもの、つまり製品とコモディティを区別するインサイトが明らかになることはない。モデルにできるのは、合成された口の中に言葉を入れることだけなのだ。
そしてもう一つ、LLMと顧客には非常に重要な違いがある。
LLMはあなたの製品を買うことができないのだ。
=====
生産性や効率を重視し、デザインプロセスの一部をAIで代用することの危険性について説いた今回の記事は、デザイナーであれば概ね共感できる主張であったと思います。
一方で、「顧客の声を聞く」というフレーズをそのままの意味で解釈することも、時に危険を孕んでいると考えます。
筆者が述べているように、「顧客が実際に言ったこと」の価値に比べれば、「顧客が言いそうなこと」は何の価値もないというのは確かにその通りですが、「顧客が実際に言ったこと」をそのまま鵜呑みにしてしまうと、表面的なニーズに留まってしまい、根本的なニーズや問題の解決には至らないケースも多々あります。
「顧客の声を聞く」ためには単なる要望や意見を聴取するだけでなく、その背後にある動機や行動を理解し、 顧客自身も気づいていない心の奥底にある欲求（=インサイト）を導き出すことが重要なのではないでしょうか。
このインサイトを理解するためにLLMなどのAIに頼ることを常態化してしまうと、革新的なサービスや製品からは遠ざかってしまうように思います。（mct箕輪）
英語版参照元：
https://uxdesign.cc/no-ai-user-research-is-not-better-than-nothing-its-much-worse-5add678ab9e7#63f6-93ea4e3dd7a5
DMNでは、他にも様々なブログを「DMN Insight Blog」にて配信しております。
定期的に記事をご覧になられたい方は、ぜひご登録をお願いいたします！
→「DMN Insight Blog」メールマガジン登録
