AI利用における倫理と責任

AIの倫理についてお話しする前に、まずは、AIについて、少しおさらいをしておきましょう。

実は今我々がAIという場合、文章を生成するChatGPTや、画像生成するMidJourneryなどが思い浮かぶことと思いますが、

実は、こうした文章や画像を生成するAIサービスが本格的に使われるようになったのは、２０２２年後半からにすぎません。

AIはそれ以前から、また現在進行中で、様々な用途で使われてきています。実は、この従来型のAIの安易な利用が、

これまで多くのトラブルをもたらしてきているのです。

この従来型のAIというのは、データを使って予測するあるいは判別するという機能で使われていました。

具体的に見ていきましょう。

従来型のAI、あるいは、もっとも典型的なAI利用例としては、過去のデータをAIに学習させて、予測あるいは判別させるという課題があります。

分類、あるいは判別は、複数の候補からもっともありそうな結果を、過去のデータに基づいて予測するという課題です。

一方、回帰とは、予測するのが数値の場合です。

例えば、過去の気温や湿度のデータから、将来の気温や湿度を予測することです。

要するに、晴れか雨か、あたりか外れか、血液型がAかBかCかOか、こうしたカテゴリを見分けるのが「分類AIです。

一方、気温が２２度とか、晴れた日にお花見に出かける人達の人数とか、数字を予測するのが回帰AIです。

最近のAIは、この分類するAIをさらに拡張した機能を持っています。

つまり、入力された猫の部品それぞれの特徴を学習した結果から、もう一度部品を組み立てなおして、猫のイメージを生成するのです。

ただし、生成Aiは、特定の画像を再現するわけではなく、あくまでも、猫の細部の特徴を組み立てなおして、猫の画像を生成するわけですから、その過程で特別な指示を追加することができます。例えば、実写ではなく、イラスト風にしてくれと言えば、そのような猫画像を生成してくれます。これが画像生成AIです。

この過程については、文章生成AIも同様です。つまりたくさんの入力データを入力文書を入力データとしてその入データから日本語なり英語なりの特徴をAIは把握しでこの把握した英語に日本語の特徴をもとにまた文章を組み立て直すというわけです

さて、ここまでAIは、大量のデータを学習し、そのデータに基づいて、回答を生成することを学びました。

ここからは、しっかりとデータを学習したはずのAIが、間違いやトラブルを起こしてしまった実例を紹介していきます。

アマゾンがエンジニアの採用において引き起こした事例です

アマゾン2014年頃から生成Iを使ってエンジニア応募者の順位付けを行うAIの開発を行っていました。

このAIは過去にアマゾンに応募した、あるいは採用された方々の履歴書をデータとして AIに学習させ、このAIを使って候補を絞るという試みを行っていました

ところがこのAIの試験過程でAIの判断にバイアスがあることが判明しました。

どのようなバイアスでしょうかそれは応募者が女性である場合、候補者のスコアを低くするという現象が起こったのです

一般にアメリカでは、履歴書に性別や年齢を書く必要はないと言われていますが、たとえ明示的に書かれていなくとも、大学で女性チェス部の部長をしてたあるいは履歴に女子大卒などの情報があれば、A_Iはその応募者は女性と判断する

わけですが、 AIはそうした候補者のスコアを著しく低く評価したわけです

理由はAIが学習した元の応募者の履歴のほとんどが男性によるものだったためAIは暗黙のうちに応募者は男性が望ましいという学習をしたと思われます

アマゾンでは女性であることによってスコアを下げないようにAIを再学習することも検

次に、賃貸のアパートやマンションを借りようとする人が、将来、家賃を滞納する可能性を判断するというＡＩの事例です。

このＡＩでは、入居希望者の各種情報をインプットされると、該当者が家賃滞納確率をはじき出すわけですが、その際、

性別や国籍、結婚状況、勤務形態など、細かい情報が要求されます。

これらは、その人を別の人から識別する情報ということになりますが、それはすなわち、その人を差別することにつながりかねない情報でもあります。

すなわち、こうした情報を学習したＡＩが、アメリカ社会に内在する差別を学んでしまい、その差別をＡＩが実践することにもつながりません。

また、別の問題として、このシステムで入居申請を断られた人が、その判断についての詳細な説明を求めること、あるいは判断の撤回を求める

手段も用意されていませんでした。

次の事例はゴールドマンサックスという有名な金融会社が発行したApple端末用のすなわちiPhone用のクレジットカードの信用についてです

アメリカのある夫婦間で起こったことだそうですが夫が自分のAppleカードの利用限度額を調べたところ妻よりも2倍おーきな額であったそうそうです

しかもクレジットカードの利用において妻は夫よりも何倍も利用実績があったそうです

そのため夫はAppleカードが性差別をしているということをSNSに発信しこれが非常に大きな社会問題となりました

この騒動の中でゴールドマンサックス側採用しているシステムにおいて女性差別はしていないあるいはそもそも女性であるかどうか判定の根拠としていないというふうな見解を表明していますが

最終的にはアメリカニューヨークのの金融取り締まり機関において判断がなされました

その結果はゴールドマンサックスの言うとうりシステムに女性の利用を特に制限するような差別は存在していないということがわかりました

すなわちもともとの夫婦の発信が勘違いであった可能性も指摘されています

しかしながら問題はゴールドマンサックス側が最初の騒動の発端において自社のシステムに性的な差別がないことを丁寧に説明しなかったことが問題であったと思われます

次にこちら日本の事例になりますがリクナビ案件というのがあります

日本では、就職活動を行い学生の多くは、就職情報サービスを利用していることが知られていますが、リクルートはその大手です。

そのリクルートが、募集先企業と連携し、その企業に応募する就活生が仮に採用された場合に内定を辞退するかどうかを予測するシステムを開発しサービスとして提供したという事案になります。

このサービスは利用が明らかになると、公表されると非常に大きな議論を巻き起こしました。

サービスでは、就活生のリクナビサイトへのアクセスと、その就活生がエントリーを行った企業へのアクセスの両方で、当該就活生のブラウザに残された閲覧履歴を収集し、

AIを使って、応募先企業から内定をもらった場合に辞退する確率を求めるというものでした。

システムの流れは、何度か変更されているようですが、問題となった点として、

個人情報を取得する業者は、その情報を第三者に渡す場合には、本人の同意が必要となります。リクルート側でも、同意を求める必要性は認識し、かつそのようにシステムを設定したということですが、

不備があり、必ずしも全員から同意が得られていないことが後に昭になりました。

また、同意を得ていたとしても、個人情報の使い道として、「内定を辞退する確率」を計算し、それを提携企業に与えるという内容は書かれていなかったようです。

この事案は、個人情報保護法に明らかに違反しているケースです。

また、採用内定という、学生の一生を左右するような事項を、安易にAIに判定させ、それをビジネスにすることに対して非常に多くの反響を呼んだ事例です。

最終的に、リクルート側は、このサービスを廃止していますが、大きな企業ダメージを残した案件と言えます。

次の事例は、マイクロソフト社が、X（Twitter）上で公開した、ChatBotの案件です。

このチャットボット Tayは他のユーザーからのリプライに適切に回答ができるという触れ込みでしたが、公開後1日に立たずに停止されています。

Tayは、Xでのリプライの文章を学習するように設計されていましたが、その結果、悪意のあるユーザーの表現まで学習し、それを自身で発信するようになったそうです。

すなわち開発したAIが暴走した事例になります。

非難の矛先となったマイクロソフト社は、結局、このAIを非公開にしましたが、企業イメージを大きく損なうこととなりました。

マイクロソフト社側の問題として、AIが自立的に学習することによるリスクへの対応が不十分であったと言えるかと思います。

Facebookのユーザーデータが無断で収集され、政治キャンペーンに利用された

誰が関与したか？ケンブリッジ・アナリティカ（データ分析企業）、Facebook、政治キャンペーン関係者

影響を受けた人数約8,700万人（推定）

利用された選挙2016年米大統領選挙（トランプ陣営）、英国EU離脱（ブレグジット）

Facebookの対応CEOザッカーバーグが公聴会で謝罪、プライバシー管理の強化

制裁Facebookに50億ドルの罰金、ケンブリッジ・アナリティカは破産

影響世界的な個人データ保護の強化（GDPR施行、各国のプライバシー規制強化）

一方画像認識を使った事例としてはJR東日本の事案があります

2019年の東京オリンピックに伴うテロ対策としてJR東日本では駅及び構内に複数の防犯カメラを設置し不審者を判別するということを行ないしています

ここでは通行人の画像顔認識し、過去にJR東日本の駅構内で重大犯罪を起こした人や、前科を持つ人らの顔写真と照合し、該当者を発見した場合には警備員に通知がいくというシステムになります。

JR東日本の防犯カメラ導入が問題になった理由は、主に以下の点に集約されます。

プライバシー侵害の懸念

JR東日本が駅構内に設置した顔認証付き防犯カメラは、過去に重大犯罪を犯し服役した出所者や仮出所者を対象にしたものでした。これにより、プライバシー侵害や人権問題が指摘されました。

社会的合意の不足

顔認証技術の使用について、明確なルールや社会的合意が不足していることが指摘されました。JR東日本はこの点を理由に、出所者を対象とする検知を当面の間取りやめることを発表しました。

恣意的な判断の可能性

不審者の概念が曖昧であり、恣意的な判断に委ねられる可能性があることが批判されました。特に、全ての人を監視対象にすることになる点が問題視されました2。

国際的な規制との比較

欧州諸国では公共の場での顔認証システムの使用が原則禁止されており、アメリカでも州法で規制が進んでいます。このような国際的な動向と比較して、日本での規制が不十分であると指摘されました

この問題は、プライバシーへの配慮がJR側に欠けていたこと、またAIシステムの概要についての説明が不十分だったことが問題であったと思われます。

画像認識で一般の人々の顔を取って認識するというのはこのように東日本JR東日本レーダー批判を浴びたわけですが一方で批判を特に集めなかった例もありますそれは渋谷書店万引き対策事案というもので

過去に書店内で実際に犯罪万引きを行った人物の顔写真を書店間で共有するというシステムであり仮にその人物が書店に入ってきたときはアラーム等を鳴らすようなシステムということになりますが

こちらも一般の利用客の顔写真を撮っているわけですがこちらについては批判を受けていません

一方こっちはトラブルになったというわけではありませんが2019年にNHKが、既になくなっていた国民的歌手である美空ひばりの動画をAIで再現し、このために用意された新曲を歌わせるという番組を放送したことがあります。

番組制作にあたっては、近親者、また関係者に充分な意見照会をしたそうですが、放送されるとやはり賛否両論を巻き起こしたようです特に

美空ひばりを実際にしている年配世代の方々からは個人への冒涜であると言った意見がオーク寄せられていたようですただし法律的に触れてるものではないことは言うまでもありません

ちなみにはいえ歌手をAIで再現するということは2023年ごろより本格的に導入が進んでいるようです

一方でAIを使って人間実在の人間を動画動画として再生するまたその本人の声をそっくりそのまま真似るということは現在のAI技術でほぼ実用的に可能となっています。

例えばそこのITメディアの記事にもありますように俳優に一日分の逆を払ってその人物をスキャンすると以降そのスキャンした画像に基づいてその俳優をエキストラとして自由に使うことができるようになります

ただ倫理的道義的な問題としては今後さらに議論が進むものと思われます

そのため202３年にはアメリカのハリウッドで大規模な抗議活動特に俳優や脚本家監督者と言ったハリウッドHollywoodの使用名はリット産業の主要な機能を担う人たちによって大規模なデモが繰返されたことでも知られています。

さて、ここまで過去に問題となった事例を紹介してきました。

これらの問題の背景にあるものは何でしょうか

まず最初にご紹介したAmazonの事例について言うと、これはAIが特定のジェンダーすなわち女性を差別するような学習し実際の判定においても女性差別を行った点に問題があります。

Appleカードの問題については、実際にシステムにそのような性差別を再生産する仕組みがあったかどうかは不明となっていますが、

同時に、そのような性差別を行っていないことについて、クレジットカード会社側から十分な説明がなされていないこと自体が問題と受け止められています。

また。リクナビ事件についてですがこれは就活生のプライバシーを侵害する可能性が非常に高いものです。特に本人の同意取得が不十分であった点は、個人情報保護法に抵触するものです。

さらに、就活のような個人の将来に大きく影響する活動で個人情報が利用されるということは、就活生に大きな不安を与えるもので、倫理的に許されるのかという議論が付きまとうものと思われます。

プライバシーの観点から言えば、防犯カメラを利用して、不審者を識別するというJR東日本の防犯カメラ案件についても、倫理的な面が議論されいます。一方で、渋谷書店のケースでは

特に問題視されていません。駅の場合、書店と違い、利用者が防犯カメラを避けるのが容易ではないこともあるかと思いますが、一方で、JR東日本の場合、法的な違反はないと思われますが、

やはり利用者への十分な説明がなされていないことが問題を招いたと考えられます。

チャットボットのTayが、差別的発言を繰り返すようにあった事案では、事前のセキュリティー対策が不十分であったことが問題かと思われます。

とはいえ、過渡期にあるＡＩ利用では、予測もしなかったトラブルが生じる可能性が高いと言えます。

一方美空ひばり事案についてはこれは関係者、特に近親者の了解を得ているとのことですのでプライバシーの侵害に当たるとはいえないと思われます。

一方ですでに亡くなった方個人の姿あるいは声を再現するということが倫理的に許されるのかという問題をはらんでいるともいえます

これは、個々の人々の思い、倫理観を刺激する問題であるともいえます。

そしてこれらの事案いずれにも対応共通しているものは企業がそれぞれの事案において説明責任果たしているのかあるいは仕組みが透明であるかっていうのも非常に大きな論点になるかと思いますいわゆるaccountabilityと言われるものになります

もっとも、具体的な対策はケースバイケースなことも多いため、どのような場合にも対応できるよう、AI開発と提供については、幅広く対策を考えておく必要があります。

さて、AIにどのように向き合うべきなのか、これはいま、世界的に議論が勧めんでいる問題です。

そこで、日本、あるいはアメリカ、EUで提案されているガイドラインについても、ここで触れておきましょう。

スライドの表には、三つの地域で公表されたガイドラインを示しています。

? 日本のAI規制・ガイドライン

1. AI社会原則（総務省）

? 概要：

AIの開発と利用における倫理的原則や社会的課題への対応を示した指針。

? 主なポイント：

AIの透明性・説明責任の確保

公平性・プライバシーの保護

社会的な受容性を高めるための指針

2. AI戦略2022（内閣府）

? 概要：

日本のAI政策の方向性を示す国家戦略。特に人材育成と研究開発に重点を置いている。

? 主なポイント：

AI教育の拡充と高度AI人材の育成

研究開発の推進（産学官連携）

企業の競争力強化を目指す

3. AI利活用ガイドライン（経産省）

? 概要：

企業がAIを適切に活用するためのリスク管理指針を提供。

? 主なポイント：

AI開発・運用時の倫理的配慮

企業がAIを安全・公正に利用するためのルール

AIをビジネスに導入する際のリスク評価

? アメリカのAI規制・ガイドライン

次にアメリカです。

4. AI権利章典（ホワイトハウス）

? 概要：

ホワイトハウスが発表したAIの公平性・プライバシー保護を強化するための指針。

? 主なポイント：

AIが公正かつ偏りなく利用されることを保証

個人のプライバシーを尊重し、監視技術の乱用を防止

透明性と説明責任の確保

5. AIに関する大統領令（バイデン政権）

? 概要：

AIのリスク管理を強化し、政府機関や企業のAI活用の方向性を定める政策指針。

? 主なポイント：

AI技術の開発・活用におけるリスク管理

政府機関によるAIの適切な利用

社会への影響を考慮したAI規制の整備

6. NIST AIリスク管理フレームワーク

? 概要：

アメリカ国立標準技術研究所（NIST）が発表したAIシステムの安全性と透明性を確保するためのフレームワーク。

? 主なポイント：

AIの設計・運用における安全性の確保

透明性を持ち、説明可能なAIの開発を推奨

リスク評価と管理の方法論を提供

そして欧州、EUです。

? EU（欧州連合）のAI規制・ガイドライン

7. AI Act（欧州委員会）

? 概要：

EUによる初の包括的なAI規制。AIのリスク分類に基づき、規制の厳しさを決定する。

? 主なポイント：

AIをリスクレベル（低リスク〜高リスク）に分類

高リスクAIには厳格な規制（例：生体認証、信用スコアリング）

透明性と安全性の確保を義務化

8. 信頼できるAIの倫理指針

? 概要：

AI開発における倫理的な原則と責任を定める指針。

? 主なポイント：

人間中心のAI開発を推奨

AIの透明性と説明責任の確保

プライバシーと基本的人権の尊重

9. GDPR（一般データ保護規則）

? 概要：

EUのデータ保護規則で、AIが個人データを扱う際の規制を強化。

? 主なポイント：

AIによる個人データの利用は、透明性とユーザーの同意が必要

ユーザーにデータ削除や修正の権利を付与

違反時の高額な罰金制度

? まとめ

各国・地域のAI規制やガイドラインは、以下の3つの主要テーマを中心に構成されています。

テーマ 具体的な内容 代表的な規制 倫理・公平性

AIのバイアス排除、公平な判断 AI権利章典（米）、

信頼できるAI倫理指針（EU）

透明性・説明責任 AIの意思決定を説明可能にする NIST AIリスク管理（米）、AI Act（EU）

プライバシー・安全性 個人データ保護、AIのリスク管理 GDPR（EU）、AI利活用ガイドライン（日） 各国の方針には違いがありますが、共通しているのは**「AIを安全かつ公正に利用すること」と「プライバシーや基本的人権を守ること」**です。今後も、AI規制は進化し続けるでしょう。

この説明で、各ガイドラインの概要と違いが明確になると思います。

さらに、AIの倫理原則については多国間の間で合意されたOECDのAI principleというものがあります

このAIプリンスの主な特徴を言うとまず

1️⃣ 包摂的な成長、人間中心の価値観

「AIは、経済成長や社会の発展を支援するために活用されるべきであり、特定の企業や個人だけでなく、すべての人にとって利益となるように設計されることが求められています。」? 「AIは持続可能な開発と社会全体の幸福のために利用されるべきであり、環境負荷を抑えつつ、公平な成長を促進することが求められる」

2️⃣ 人権・民主主義・法の支配の尊重

「AIは基本的人権や民主主義の価値観を損なうことなく運用されるべきです。たとえば、監視社会化や差別的なアルゴリズムの導入を防ぐことが重要とされています。」

3️⃣ 透明性と説明責任

「AIの判断がどのように下されたのか、ユーザーや関係者が理解できるようにすることが求められています。たとえば、企業や行政がAIを使う場合、その仕組みを明確に説明する責任があります。」

4️⃣ 安全性・セキュリティの確保

「AIシステムが誤作動したり、悪用されたりしないように、安全性を確保することが求められます。特に、自動運転車や医療AIなど、人命に関わる分野では厳格な管理が必要です。」

5️⃣ 責任あるAIガバナンス

「AIが社会に及ぼす影響を適切に管理し、問題が発生した際に責任を明確にする仕組みが求められます。国や企業がリスクを監視し、適切な規制や対策を整えることが重要です。」

✅ 個人ユーザーとしてAIを利用する場合に考えるべきこととまとめてみましょう。

① AIは与えられた学修データに基づいて偏見を含んでいる可能性があり、安易に利用すると、他社を差別する恐れがあることを知っておきましょう。

② したがって、AIの出力を他者の評価に使うべきではありません。そもそも、AIの出力をうのみにしないようにしましょう。

度そのためには、AIの出力を自分で説明できるおうになることが求められます。

AIは万能ではなく、間違った情報を提供することがある（例：生成AIのハルシネーション）。

AIの出力結果をそのまま信じるのではなく、他の情報源と照らし合わせることが必要。

「なぜこの結果が出たのか？」を考える習慣をつけることで、AIのバイアスや誤情報のリスクを減らす。

③プライバシーを守る（人権の尊重・セキュリティ）

SNSやAIアシスタントを使うときに、個人情報を無意識に提供しないように注意する。

AIがどのようにデータを扱っているのか（例：位置情報や顔認識データの利用）を確認する。

「無料のAIサービスには裏がある」ことを理解し、データの対価として何を提供しているのか意識する。

④ AIの出力に疑問を感じる、あるいは違和感を感じる人も多数います。自分の感覚だけで判断するのではなく、他者の視点や気持ちになって考えてみることも重要です。

③ AIの公平性と持続可能性を考える（責任あるAI利用）

AIが生み出すコンテンツ（画像、文章、音声）が、差別や偏見を助長していないか確認する。

生成AIでコンテンツを作るときは、著作権や倫理的な配慮が必要（例：デマの拡散、偽情報の投稿を避ける）。

環境負荷の大きいAIサービス（例：大規模なAIモデルの計算）を過剰に利用せず、持続可能な方法で活用する。

個人の視点でのまとめ

? 「AIの情報は100%正しいとは限らない」 → 他の情報と照らし合わせる習慣をつける。

? 「個人情報を安易にAIに提供しない」 → プライバシー設定を確認する。

? 「AIが生み出す影響を考える」 → 差別や環境負荷に配慮して利用する。

✅ 企業がAIを開発し、サービスとして提供する場合、特に「責任」と「影響範囲」が大きくなります。以下の3つの観点から注意が必要です。

①社内で倫理ガイドラインを策定するため、社内の多様な人たちと議論を行うことを積極的に進める。

また、できれば、外部の有識者にも参加いただくとよいでしょう。

策定されたガイドラインは、AIの開発あるいはサービスを提供する部署だけではなく、前者で共有し、全社員がガイドラインをしっかり学ぶことが望ましいでしょう。

② AIの公平性・透明性（倫理的なAI開発）

AIが特定の属性（性別、人種、年齢）に対して不公平な判断をしないよう、学習データの偏りをチェックする。

社会的な影響を考慮し、「不利益を受ける人がいないか？」という視点で開発を進める（例：Apple Cardのクレジットスコア問題）。

「AIの意思決定プロセスを説明できる仕組み」を持つ（例：なぜこのユーザーにこの広告を表示したのか？）。

ブラックボックス化を防ぐため、アルゴリズムの透明性を確保する（例：AIが採用審査で判断した基準を公表）。

ユーザーに対して、AIの判断がどのように行われたのか説明できる設計にする。

③公開したAIが、意図しない動作をしていることが判明した、あるいは、ユーザーから不適切だとの指摘を受けた際に、直ちに対応できるようにしましょう。

また、セキュリティ対策、あるいは悪意あるユーザーからの攻撃リスクについても、想定しておきましょう。

③ 持続可能なAIガバナンス（長期的な視点での責任）

AI開発とサービス提供を、継続できる体制を整備しましょう。

また世界各国でのAI規制、ガイドラインの方向について、情報のアップデートを怠らないようにしましょう。

「今日お話ししたように、AIの活用には多くの倫理的な課題が伴います。

そして、AIにまつわる倫理問題の多くについては、意見あるいは判断が分かれることが多く、確定的は判断を行うことができないのが現状です。

トロッコ問題とAI倫理の共通点

「例えば、自動運転車が事故を避けられない状況になった場合、

? 子供と高齢者のどちらを優先するのか？

? 車内の乗客を守るか、歩行者を守るか？

? 法律に従うか、人間の判断に近づけるか？

こうした問題には、どんな選択をしても完全に正しいとは言えないケースがあります。」

「これは、人間の倫理観が一枚岩ではないことに起因しています。

ある国では『集団を優先するべき』と考えられる一方、別の国では『個人の命も平等に扱うべき』と考えられることがあります。」

AI倫理を考えることの重要性

「AI倫理の問題は、単純に『正解を見つける』ものではありません。

しかし、だからこそ議論を続け、私たちが納得できる基準を作り上げていくことが大切です。」

? 『AI倫理はトロッコ問題のように、簡単に解決できるものではない』

? 『それでも、私たちがどう考え、どんな社会を望むかによって、未来のAIのあり方が決まる』

? 『だからこそ、今この問題について学び、考えることが重要』

まとめ：AI倫理には正解がないからこそ、考え続けることが必要 「私たちはAI倫理について、完璧な答えを持っているわけではありません。

しかし、だからこそ、考え続けること、議論を深めることが重要です。

未来のAIがどんな判断をするのかは、私たちの意識と選択にかかっています。」

以上、今回は講座を受講いただきありがとうございました。