Source: https://left.eu/ai-act-big-
概要：AIプロダクトの背後にある複雑な技術を理解する上で、
デザインアプローチの再考
AIの進歩は、人間とコンピューターのインタラクションにエキサ
AIの大きな可能性にもかかわらず、
なぜだろうか？
「HCIの専門家は、
問題点：デザインプロセスにおけるAIデザインの課題マッピング
カーネギーメロン大学のQian Yang氏と彼女のチームは、
執筆者による図式化
この論文から私が学んだことをデザインプロセスのステップ別に紹介する：
- 発見する（発散思考段階）
執筆者による図式化
- デザイナーはAIの限界と能力を理解するのに苦労し、そのことがブレインストーミングやスケッチのプロセスを妨げている。
- デザインアイデアの技術的な実現可能性は、AIモデルを効果的にトレーニングするための、十分で多様かつ高品質なデータへのアクセスにかかっている。
- AIがどのように機能するかを理解したとしても、デザイナーが多くの実現可能性のある新しいインタラクションや斬新な体験を、流れるようにアイデア化することは困難である。
- デザイン上の問題に対して適切なAI技術を選択するには、AIを技術的に深く理解する必要があるが、それは困難なことである。
- 定義する（収束思考段階）
執筆者による図式化
- UXデザインには、人間への影響を評価し改善するためのラピッドプロトタイピングが含まれる。AIプロダクトのラピッドプロトタイピングは、ユーザー体験を予測することに課題がある。
- Scott Klemmer氏は、初期段階の対話型AIプロトタイプとして、オズの魔法使いシステムやルールベースのシミュレーターを作成することを提案している。Josh Lovejoy 氏とJess Holbrook氏は彼らの記事でそれをさらに探求している。有効な選択肢ではあるが、このアプローチではAIの推論エラーに起因するUXの問題には対処できない。
- Qian Yang氏らが提案した2つ目のアプローチは、機能するAIシステムを実際のユーザー間で展開し、意図した結果と意図しない結果を完全に理解すること。しかし、このプロセスは時間がかかりすぎて早期の失敗が許されないため、チームは迅速かつ反復的なプロトタイピングという価値を実現できない。
- 開発（発散思考段階）
執筆者による図式化
- AIの技術専門家は、多くのUXデザインチームにとって貴重なリソースであるが、希少であることが多い。共有されたワークフロー、境界オブジェクト、またはコラボレーションを促進するための共通言語がないため、AIエンジニアと効果的に仕事をすることが難しいと感じるデザイナーもいる。
- あいまいでオープンエンドなインタラクションはデザイン上複雑になる。ユーザーが様々な方法で自分自身を表現できるため、高いレベルの複雑さをもたらす。
- AIに関連する概念や専門用語を理解することは困難であり、AIシステムがどのように機能し、なぜそのように動作するのかを効果的に伝えることを難しくしている。
- もし5人中3人（61%）がAIシステムを信頼することに警戒している場合、AIとユーザーの間で共有されるコントロールをどのようにデザインすればよいのだろうか。ユーザーは、AIが自分の代わりに意思決定することを信用せず、コントロールを放棄することに懐疑的かもしれない。AIシステムの能力に対して信頼を築き、その意思決定プロセスの透明性を確保することは不可欠だが、困難な場合もある。
- AIシステムのインタラクションをデザインすることは、その環境が急速に変化し、適応可能なインタラクションを必要とするために困難である。
- AIシステムはダイナミックで常に進化し続ける存在である。この継続的な進化を、タイムリーで適切かつ理解しやすい方法でユーザーに伝えることは、複雑になる場合がある。
- 提供する（収束思考段階）
執筆者による図式化
- AIシステムは、環境と相互作用したりフィードバックを受けることで、進化し適応することができる。この進化は、予測や制御が難しい行動の変化を導くことができる可能性がある。AIモデルの中にはブラックボックス化しているものもあり、どのようにして意思決定に至るのかを理解するのは難しい。その結果、予測不可能なAIの行動を予測／軽減することが困難になる可能性がある。
- 目標は、人を不安にさせたり不気味にさせることなく、現実的で親近感の持てるAIを作ること。デザイナーは、特に声や表情や行動など人間に似た特徴を持つAIをデザインする際、これらの微妙なバランスをうまく調整しなければならない。AIが人間に似すぎていて、しかし完璧ではない場合、不気味の谷に陥る可能性があり、その結果ユーザーから不利な反応が返ってくる可能性がある。
- AIのエラーは、偏ったデータや欠陥のあるデータによって起こる可能性がある。データ収集、前処理、モデル開発、実装のいずれもから問題が発生する可能性があり、誰が責任を負うべきかははっきりしない。
行動を起こす：特定された課題の解決
ここまでに言及されたすべての問題を大きく2つに分類した：
- AIシステムの背後にある技術の理解不足に関連した困難
- AIシステムのデザインパターンの理解不足に関連した困難
AIシステムの背後にある技術の理解不足に関連した困難
MLを使用するプロジェクトに配属されるUX担当者を増やすだけでは十分ではない。MLの中核となるコンセプトを理解し、AIとその能力に関する先入観を解き、信頼を築き維持するためのベストプラクティスを共有することが不可欠だ。
どのタイプのAI知識がUXデザインに関連するかについては、いまだに大きな議論がある。しかし、UXデザイナーがAIを効果的に扱うためには、AIに関する技術的な専門知識が必要であることは、次第に合意されつつある。
ほとんどのAIコースは、統計、確率、線形代数、微積分、プログラミングの予備知識を前提としている。これらの背景がなければ、多くのAIの概念を理解することは難しいだろう。
AIに関する高度な理解は必要ないが、数学とコンピュータサイエンスに慣れていることは不可欠だ。これらの科目に苦手意識がある場合は、評価の高い以下のコースの受講を検討するとよい。
確率： Fat Chance: Probability from the Ground Up from Harvard
統計学： Fundamentals of Statistics from MIT
線形代数： Linear Algebra 18.06 from MIT
微積分：Single Variable Calculus and Multivariable Calculus from MIT
プログラミング：Learn Python from Codecademy, Google or University of Michigan. 個人的にはミシガン大学の Python for Everybody が好きだ。長いが、より詳しい説明がある。
それぞれのトピックについてある程度知っておくことは、これらのコースを受講するための大きな基礎となる：
1) “AI For Everyone” (6h, 49.99/month) – 有名なスタンフォードの機械学習クラスの創設者であるAndrew Ng氏が教える、技術的でない最高のAI入門書
2) “Professional Certificate in Computer Science for Artificial Intelligence” (5 months, 432€) – ハーバードのCS50とCS50AIコースに対応したedXの2部構成のプロフェッショナル・サーティフィケートで、CSの前提知識がない学習者でもAIの世界に入ることができる
3) “AI Foundations for Everyone” (40h, 49.99/month) – 新興テクノロジーの革命的リーダーとして認められているIBMがCourseraを通じて提供する専門課程。この専門課程には3つのコースがある：
- Introduction to Artificial Intelligence (AI)
- Generative AI: Introduction and Applications
- Generative AI: Prompt Engineering Basics
- Building AI Powered Chatbots Without Programming
4) “Elements of AI” (30–60h, free) – ヘルシンキ大学とMinnaLearnによるこのコースは、複雑な数学やプログラミングを必要とせず、AIで何が可能か（そして不可能か）、そしてそれが私たちの生活にどのような影響を与えるかを説明する
他にも役立つ情報源をご存知でしたら、ぜひお気軽にコメントをください。
AIシステムのデザインパターンの理解不足に関連した困難
人間とAIのインタラクションに特化したデザインスキルの必要性が高まっているが、関連する講座は限られている。幸いなことに、知識やノウハウを惜しみなく共有しているデザイナーや研究者は数多くいる。私がフォローしている人を以下に紹介する：
- Jakob Nielsen 自身のブログでAI関連の多くのトピックにUXの視点を提供している
- Ioana Teleanu MiroのシニアAIプロダクトデザイナーであり、UX Goodiesの創設者。IxDFのコース “AI for designers” とワークショップ “AI-Powered UX Design: How to Elevate Your UX Career” を作成した
- Vitaly Friedman 欧州議会のシニアUXコンサルタント、Smashing mediaのUXリード、ワークショップ “Design Patterns for AI UX” を開催。
- Greg Nudelman ニュースレター “UX for AI “ の著者で、IxDFでワークショップを開催：“How to design experiences for AI” と “How to make your AI project a success”
- Stefanie Lauria IBMにおけるAIのデザインリード＆ストラテジスト。LinkedInのプロフィールで、彼女が登壇するウェビナーの最新情報をチェックできる。また、彼女は素晴らしい記事を書いている。
- Krystian Bergmann from Netguru は、AI製品に携わる上での直接の洞察を共有している。現在彼はAI製品の設計に関するウェビナーのシリーズを開催している。その第5回目は、AI Product Design Patterns: Applying UX Patterns to AI-Driven Systems（5月29日開催予定）
- Emily Cambell ”Shape of AU”（AI製品のインタラクションパターンを集めた宝箱）のクリエイター。ニュースレターも購読できる。
- elaineinthebayのストーリーをMediumで読む: https://medium.com/@elaineinthebay
- Elaine Anzaldo Metaのカンバセーションデザイナー。いくつかの素晴らしい記事をシェアしており、最近ではワークショップ “Conversation Design: Practical Tips for AI Design” を開催
もし私が見逃してしまった人がいたら、その人の名前と、その人が作成した役に立つリソースを教えてください。一緒に知識を広げ、互いの成長を助け合いましょう。
最終的な考察
人工知能は私たちの思考、感情、行動を形作る。人工知能は私たちの未来を決定づける決断の原動力となる。私たちには、この可能性を人道的なテクノロジーに活用する責任がある。私たちの多様な価値観とニーズに基づいたAIを構築するには、思慮深いデザインが必要だ。
Josh Lovejoy and Jess Holbrook
人工知能がさまざまなデジタル製品やサービスに組み込まれるようになってきている。AIとユーザーとのインタラクションは、こうした製品の成功と普及を左右する重要な要素となる。しかし、新しいインタラクションのパターンやテクノロジーを定義して採用することを怠り、時代遅れのヒューリスティックやAIに対する限られた理解に頼っていると、イノベーションの妨げになるリスクがある。
粘り強さと創造性を組み合わせることで、デザイナーはAIの可能性を最大限に引き出し、より良い未来への道を切り開くことができる。
お読みいただきありがとうございました。この新しいパラダイムを共に構築するために、追加リソースをぜひ共有してください！
英語版参照元：
https://uxdesign.cc/ai-product-design-identifying-skills-gaps-and-how-to-close-them-5342b22ab54e#5641-e90b715a7190
DMNでは、他にも様々なブログを「DMN Insight Blog」にて配信しております。
定期的に記事をご覧になられたい方は、ぜひご登録をお願いいたします！
→「DMN Insight Blog」メールマガジン登録
