AI システムに文化、信頼、倫理を組み込む方法

Apple Podcasts や Spotify でも音声をお聴きいただけます。

職場、個人の生活環境、社会全体の仕組みを構築するシステムなど、AI は幅広く使用されています。大規模言語モデル (LLM) や自動化の使用が一般化され、エージェント型 AI の導入が始まる中、私たちは AI レディネスの評価という重要なステップを見落としている可能性があります。 

この AI Horizo​​ns エピソードでは、SAS 社のデータ倫理実践担当バイス プレジデントであり米国国家 AI 諮問委員会 (NAIAC) のメンバーを務める Reggie Townsend 氏が Workday の人工知能担当バイス プレジデントを務める Kathy Pham と対談し、責任ある AI 構築に求められる真の要件について意見を交わします。AI の機能や AI 導入を加速するロードマップについてではなく、あらゆる AI システムの導入において考慮すべき信頼、倫理、オペレーション、人財のエクスペリエンスについて考察します。

今日の AI はいかに進化しているか？

Townsend 氏は常に、テクノロジーは人間のつながりを強化するツールだと考えてきました。携帯電話の初期の取り組みから Sun Microsystems 社でのインターネットの構築に至るまで、Townsend 氏は人間のコミュニケーションの快適化・加速化と通信範囲の拡大を重視してきました。

今日唯一変化しているのはつながりの種類です。コミュニケーションは、人間と人間、人間と機械、機械と機械へと進化しています。この進化は新たな複雑さを生み出します。コミュニケーションが促進されるだけではありません。機械が加わることにより、インタラクションが根本的に変わります。この進化に伴い、自律性、価値観、説明責任に関する新たな疑問が生まれます。

エージェント型 AI は人間とテクノロジーとのインタラクションにどのような影響を及ぼすか？

エージェント型 AI とは、ユーザーや組織に代わって単独でアクションを実行するシステムを意味します。Townsend 氏は、エージェント型 AI が技術面だけでなく理念的にも大きな変化をもたらすと考えています。

Townsend 氏はまだ解決されていない基本的な疑問として以下を挙げています。

• どのようなときにエージェントが人間ではないことを明らかにすべきか？
• どのようなときにエージェントは自律的に行動すべきか？
• エージェントは他のエージェントに業務を委任できるか？
• 委任した場合、その結果責任は誰が負うのか？

このような疑問は技術面のみを考慮して解決することはできません。倫理的な意思決定が必要になります。エージェントの動作の基盤となる価値観は目的を持って設計する必要があります。そうしなければ不透明なシステムが構築され、潜在的なバイアスが反映されたり、人間のニーズに即さない意思決定が行われたりする恐れがあります。Townsend 氏は創造性だけでなく倫理に考慮するよう強く推奨しています。

責任ある AI 開発を導くフレームワークとは？

Townsend 氏は 3 つの質問から成るシンプルな倫理評価フレームワークを使用しています。

1. 目的は何か？
2. どのような成果を目指しているか？
3. 弊害を受ける可能性があるのは誰か？

これらの質問と向き合うことにより、組織は一瞬立ち止まってなぜ AI を構築しているのか、どのような成果を目指しているのか、AI の弊害を受ける可能性があるのは誰かを明らかにできます。Townsend 氏は包括的なガバナンス モデルの重要性についても強調しています。SAS 社では、監視、オペレーション、コンプライアンス、文化などに適用するガバナンス モデルを構築しています。

テクノロジー レベルにおいては、信頼性の高い AI の構築に必要となる 6 つの機能、つまり強力なデータ管理、モデルの説明可能性、弊害の検出、プライバシー保護、セキュリティ、弊害の効果的な緩和について説明しています。ガバナンスはチェックリストではありません。責任を持ってイノベーションを拡張するための基盤となります。

組織はエージェント型 AI の導入にどう備えるべきか？

エージェント型 AI が台頭する中、多くの企業はこのテクノロジーを導入する準備ができていると考えています。しかし実際はほとんどの企業が LLM を基本的なワークフローに統合する方法を模索する状況が続いています。企業がエージェント型 AI のメリットを享受するには、このテクノロジーが人財、チーム、オペレーション、コンプライアンスにもたらす広範な影響を理解する必要があります。

AI 導入は単に新しいツールの追加を意味するわけではありません。組織の設計、スキル開発、データ インフラ、社員の信頼に大きな変化を与えます。Townsend 氏は、多くの企業が AI 導入に適した文化を構築できていないと述べています。リーダーが AI の導入を発表すると、多くの社員は「雇用の喪失」を懸念します。反応は期待ではなく恐れです。

ロールアウト プロセスに信頼を組み込む必要があるのはそのためです。リーダーはコミュニケーションを誠実に行い、社員とともに AI の活用方法を策定し、急速に進化するテクノロジーの導入に欠かせない社内のレジリエンスを構築する必要があります。

AI は職場に新たな感情的・心理的な不安をもたらします。Townsend 氏は Edelman 社が 2025 年に実施した信頼調査の特筆すべきデータ ポイントを取り上げ、AI の公正性や公平性を信頼している回答者がわずか 37% である事実に言及しています。現在の AI ガバナンス構造を適性と見なしている回答者は 29% にとどまっています。AI 導入は単なる技術的な課題ではなく、文化的な課題であることがわかります。

過去のテクノロジーと異なり、AI はすでに個人の生活に浸透しつつあります。生成ツールを個人的に使用してどう感じるかは、良い印象も悪い印象も含め、オフィスで使用するツールに影響します。つまり職場の AI に対する反応は、個人的な経験に左右される場合があります。これは AI の導入後に信頼を改善することが難しいことも意味します。そのため、プロセスには初めから信頼を組み込む必要があります。

Townsend 氏はこのような現実を認識することをリーダーに強く推奨しています。AI 導入を成功させる上で、監督体制、文化、心理的な安心感を構築することは、モデルのパフォーマンスやインフラを準備することと同様に重要です。

データ倫理が導入に果たす役割とは？

多くの企業はデータ倫理をコンプライアンスの懸念事項と見なしています。Townsend 氏は違う見方をしています。彼はデータを「記録されたエクスペリエンス」、倫理を「社会的合意」と表現します。言いかえると、データ倫理とは記録されたエクスペリエンスの使用範囲について社会的な合意を形成することを意味します。

SAS 社では人間中心主義という 1 つの原則に基づいて取り組みを行っています。すべてのシステムは人財の業務、公平性、ウェルビーイングをサポートする必要があります。このような原則はビジネスモデルによって異なります。例えば B2B 企業の原則は、コンシューマー テクノロジー企業の原則とは異なる意味を持つ場合があります。最も重要なことは、価値観、アクション、成果のバランスを適切に図ることです。

そのためには抽象的な原則だけでは不十分です。社内を見直し、古いシステムに対処し、働き方を変える必要があります。

インフラやグローバル コンプライアンスはいかに進化しているか？

インフラ戦略は地域ごとに形成されるようになっています。米国の企業はクラウド ハイパースケーラーに大きく依存する状態が続いています。しかしデータ エグレス コストの上昇により、一部の企業はオンプレミスにデータを戻すようになっています。特定ベンダーへの依存を回避するため、マルチクラウドの柔軟性を求める動きも高まっています。

米国以外では、データ主権に関する懸念が高まっています。欧州やアジアの企業は、自社のビジネス データや顧客データを米国のインフラ上で運用することに疑問を感じています。 

このようなグローバルな動きは規制にも影響を与えています。EU AI 法はグローバル ベンチマークとして広く認識されています。韓国、英国、オーストラリアなど、その他の国も独自の対策を策定しています。国境を越えて事業を展開する企業は、各国の要件に対応する準備を整える必要があります。オペレーションをシンプル化して一貫性を確保するため、Townsend 氏は EU AI 法のような高基準の要件を遵守することを推奨しています。

エージェント型 AI はどのような機会をもたらすか？

Townsend 氏はエージェント型 AI が貴重なチャンスをもたらすと考えています。つまり強力なツールを民主化する機会です。

Townsend 氏は、学歴、地理、制度的排除などの理由でこれまでテクノロジーを活用できなかった人々は、エージェント型 AI によって状況を改善できる可能性があると述べています。自然言語インターフェイスや AI を活用したクリエイティブ ツールを使用すれば、優れたアイデアを持つ人はアイデアを形にしたり、表現したりできます。コーディングや資金は必要ありません。

このような変化は、まったく新しい経済モデルを生み出す可能性をもたらします。企業がインクルージョンを社会的利益としてだけでなく、ビジネス上の利点として見直すきっかけにもなります。

Townsend 氏は対談の終了時に「責任あるイノベーションは責任あるイノベーターから始まる」と述べています。これは誰もが考慮すべき課題です。

私たちは皆イノベーターであり、守るべきものがあります。AI が職場を変革する中、倫理、インクルージョン、人間を重視しながら AI を使用するためには、私たち全員が担うべき役割があります。まずは適切な疑問を洗い出します。これは早期に行い、目的を持って頻繁に行う必要があります。

エージェント型 AI は新たな分野ですが、対処方法が皆無というわけではありません。私たちはこれまで大きなテクノロジーの変化を目の当たりにしてきました。現在のテクノロジーが異なるのは、速度、影響力、個人生活や業務との緊密性です。

この AI Horizo​​ns エピソードは、AI 導入の成功が早さではなく、思慮深さが鍵となることを再認識させてくれます。つまり人財が信頼できるシステムや文化を設計する必要があります。AI 導入をオープンかつ思慮深く進める体制を整え、より適切な疑問を洗い出すことにより、組織は長期的に活用できる AI を構築することができます。