AIプロジェクトと差別排除の原則

Photo by Christopher Burns on Unsplash

2019年12月、AI研究者による差別を廻る事件が注目を浴びた。
まずその概要について、ハフィントン・ポスト紙の記事を引用しておきたい。

東京大学大学院情報学環・学際情報学府で特任准教授を務める大澤昇平さんが12月1日、Twitterで「当職による行き過ぎた言動が、皆様方にご迷惑、不快感を与えた点について、深く陳謝します」と謝罪した。
大澤さんは自身が経営する会社で「中国人は採用しません」などと人種差別と見られる投稿をTwitterで繰り返して批判を浴びていた。

彼が東京大学で担当していた「情報経済AIソリューション寄付講座」は、その名称通り寄付で運営されていたが、このツイートのような差別は許されるはずもなく、寄付元のすべての企業が寄付を停止する結果となった。
さらに彼がCEOを務めるDaisy社の提携先であるSteamr社（スイス）も、直ちに提携解消を発表している。

この一件は、産学共同のあり方、理系学部・学科における歴史や倫理などの教養科目の重要性、労働関連法などの企業コンプライアンスといった様々な問題を提起するものであるが、ここでは「AIと差別」に焦点を当てて考えてみたい。

---

AIと差別については2016年3月、マイクロソフトのAI「Tay」がヘイトを「学習」してしまい、ナチス賛美や反ユダヤなどの発言を始めたため、リリース後わずか16時間で停止に追い込まれた事件が知られている。
この事件によって、AIと倫理に関する問題が広く認識されるようになった。
とりわけヨーロッパにおいては、欧州委員会で「信頼できるAIのための倫理ガイドライン」が検討され、2019年4月8日に「7つの要件」が制定・発表された。

1. 人間の活動と監視
2. 堅固性と安全性
3. プライバシーとデータのガバナンス
4. 透明性
5. 多様性・非差別・公平性
6. 社会・環境福祉
7. 説明責任

特にその要件の一つが、多様性・非差別・公平性に関するものとなっていることに注目したい。

多様性、差別の禁止、公平性：不公平なバイアスは避けなければならない。
それは脆弱なグループの排除から、偏見と差別の悪化に至るまで、多重の負の意味を持つ可能性があるからである。
多様性を育むことにより、AIシステムはいかなる障碍に関係なくすべての人がアクセス可能で、ライフサイクル全体を通じて関係者を取り込む必要がある。

Diversity, non-discrimination and fairness: Unfair bias must be avoided, as it could have multiple negative implications, 
from the marginalization of vulnerable groups, to the exacerbation of prejudice and discrimination. 
Fostering diversity, AI systems should be accessible to all, regardless of any disability, and involve relevant stakeholders throughout their entire life circle.

欧州委員会の「信頼できるAIのための倫理ガイドライン」の検討には、多くの企業や機関、学術関係者、市民団体などが協力した。
その中の一つが、2016年にAIのプロジェクトで失敗を経験したマイクロソフトである。
マイクロソフトは2019年4月9日、「AIに関するEUでの諸問題」担当のシニア・ディレクターである Cornelia Kutterer氏の名前で、次のような声明を発表した。

特定のシナリオに対するガイドラインのストレス・テストや日々の運用に関する視点を持って、今年欧州委員会がラウンチ予定のパイロット・フェーズに参加することを、私たちは楽しみにしています。
​
We also look forward to participating in the pilot phase that the Commission will launch later this year, with a view to stress-testing the guidance against specific scenarios and day-to-day operations. 

さらにマイクロソフトは「Microsoft の AI の基本原則」を制定し、「公平性：AI システムはすべての人を公平に扱う必要があります」と明言している。

また「信頼できるAIのための倫理ガイドライン」発表に先立つ2019年1月17日、企業向けAI「ワトソン」で知られるIBMも、AI倫理グローバル・リーダーの Francesca Rossi氏による次のようなコメントを発表している。

私たちはEUの「信頼できるAIのための倫理ガイドライン」を策定するための取り組みを大きく支持しており、現在完成に近づいています。
（中略）
IBMは昨年、AIがどのように意思決定を行っているかを可視化し、潜在的に有害なバイアスを軽減する方法をレコメンドするTrust and Transparency capabilities for AIをIBMクラウド上で提供開始しました。

---

欧州委員会の発表に続けて2019年5月22日、経済協力開発機構（OECD）加盟の42か国が「AIの開発・利用に関するガイドライン」を採択した。
ガイドラインは人権と民主的価値を尊重する内容となっており、「人権・多様性・公平性」を含む5原則が制定されている。

AIは、包摂的成長と持続可能な発展、暮らし良さを促進することで、人々と地球環境に利益をもたらすものでなければならない。

AIシステムは、法の支配、人権、民主主義の価値、多様性を尊重するように設計され、また公平公正な社会を確保するために適切な対策が取れる－例えば必要に応じて人的介入ができるようにすべきである。

AIシステムについて、人々がどのようなときにそれと関わり結果の正当性を批判できるのかを理解できるようにするために、透明性を確保し責任ある情報開示を行うべきである。

AIシステムはその存続期間中は健全で安定した安全な方法で機能させるべきで、起こりうるリスクを常に評価、管理すべきである。

AIシステムの開発、普及、運用に携わる組織及び個人は、上記の原則に則ってその正常化に責任を負うべきである。

さらに2019年6月10日、英国政府がガイダンス「AIの倫理と安全性の理解」を発表した。
こちらでも「AIプロジェクトが確認すべき4つの目標」が明示され、差別禁止がはっきりと謳われている。

公平と差別の禁止 - 個人や社会的グループに対する差別的な影響の可能性を考慮し、モデルの結果に影響を与える可能性のあるバイアスを緩和し、設計と実装のライフサイクルを通じて公平性の問題を認識する。

fair and non-discriminatory - consider its potential to have discriminatory effects on individuals and social groups, mitigate biases which may influence your model’s outcome, and be aware of fairness issues throughout the design and implementation lifecycle.

---

このように、AIプロジェクトでの公平性確保や差別排除は、既に国際的な規範になっているのである。
日本の企業や大学においても、AIの研究者や開発者は、公平性や差別について、いくら配慮しても配慮し過ぎることはない。
またAIプロジェクトを進めるにあたっては、要件定義から設計、製造、運用と保守に至るすべてのシステム開発フェーズにおいて、公平性確保や差別排除が確認されるべきである。
とりわけ2016年のマイクロソフトの事件のように、開発者が明確な差別の意図を持っていない場合ですら、運用段階でAIが「差別主義者」になってしまう危険性が十分にあり得るのだ。
だからこそ、AIによる出力結果に対して絶え間のない内容確認を行うと共に、修正の必要があれば人間による介入も求められることを自覚しておきたい。
​
最後に、IT最大手の一社であるインテルの「人権原則」における「多様性と反差別」の項目を確認しておく。

​人種、肌の色、宗教、宗教的信条、性別、国籍、祖先、年齢、身体的または精神的障碍、健康状態、遺伝情報、軍役および退役の状況、婚姻状況、妊娠、性別、性別表現、性同一性、性的指向、または地域の法律・規制・条例によって保護されているその他の特性に基づく差別は行いません。

We do not discriminate on the basis of race, color, religion, religious creed, sex, national origin, ancestry, age, physical or mental disability, medical condition, genetic information, military and veteran status, marital status, pregnancy, gender, gender expression, gender identity, sexual orientation, or any other characteristic protected by local law, regulation, or ordinance. 

---

追記  (21:30 15/01/2020)

東京大学は当該教職員の懲戒解雇を発表した。

大澤昇平特任准教授に対する懲戒処分について
Regarding Disciplinary Dismissal of Project Associate Professor Shohei Osawa