人工知能(AI)に根ざしたプロジェクトは、現代の技術パラダイムの不可欠な部分となりつつあり、金融から医療まで様々なセクターで意思決定プロセスを支援している。しかし、大きな進歩があるにもかかわらず、AIシステムには欠陥がないわけではない。AIが今日直面している最も重要な問題のひとつは、データのバイアスであり、これは、機械学習モデルの訓練時に歪んだ結果を引き起こす、特定の情報セットにおけるシステミックなエラーの存在だ。

AIシステムはデータに大きく依存しているため、入力データのクオリティは最も重要であり、あらゆる種類の歪んだ情報はシステム内での偏見を引き起こす恐れがある。これは、社会における差別や格差をさらに悪化させることになる。そのため、データの完全性と客観性を確保することが不可欠となる。

例えば、最近の記事によれば、特にアメリカの影響を受けたソースが支配的なデータセットから作成されたAI生成画像が、顔の表情の文化的な文脈を誤って表現してしまい、それを同一化させる可能性があることを検討している。いくつかの例として、さまざまな時代の兵士や戦士が、すべて同じようなアメリカ風の笑顔で表現されてしまうことが挙げられている。

AIが生成したネイティブアメリカンの画像  Source: Medium

さらに、広まるバイアスは、人間の表現の多様性とニュアンスを捉えることができないだけでなく、重要な文化的歴史や意味を消してしまうリスクもある。それにより、世界的なメンタルヘルスや幸福、人間の経験の豊かさに影響を与える可能性がある。このような偏見を緩和するためには、AIの訓練プロセスに多様で代表的なデータセットを組み込むことが重要となる。

AIシステムでバイアスのあるデータが生じるいくつかの要因がある。まず、収集プロセス自体に欠陥があり、サンプルが対象集団を代表していない場合がある。これにより、特定のグループが過小評価または過大評価される可能性がある。第二に、歴史的なバイアスが訓練データに浸透し、既存の社会的偏見を継続させることがある。例えば、バイアスのある歴史的データで訓練されたAIシステムは、性別や人種のステレオタイプを強化し続ける可能性がある。

最後に、データのラベル付けプロセス中に、人間のバイアスが無意識のうちに導入されることがある(ラベル付けする者が無意識の偏見を抱いている場合だ)。AIモデルで使用される特徴や変数の選択は、バイアスのある結果を生み出す可能性があり、特定のグループとの相関が高い特徴が不公平な扱いを引き起こすことがある。これらの問題を軽減するために、研究者や実務家は歪んだ客観性の潜在的な原因を認識し、積極的に排除する必要がある。

ブロックチェーンはバイアスのないAIを可能にするか?

ブロックチェーン技術は、AIシステムを中立的に保つことを助けることができるが、バイアスを完全に排除する万能薬ではない。AIシステム(例えば、機械学習モデル)は、訓練されたデータに基づいてある種の差別的な傾向を発展させることがある。さらに、訓練データにさまざまな先入観が含まれている場合、システムはそれらを学習し、アウトプットで再現する可能性が高い。

ただし、ブロックチェーン技術は独自の方法でAIのバイアスに対処することに貢献できる。例えば、データの出所と透明性を確保するのに役立つ。分散型システムは、AIシステムの訓練に使用されるデータの起源を追跡し、情報収集と集約プロセスの透明性を確保できる。これにより、利害関係係者はバイアスの潜在的な原因を特定し、対処するのに役立つ。

同様に、ブロックチェーンは、複数の当事者間で安全かつ効率的なデータ共有を促進でき、より多様で代表的なデータセットの開発を可能にする

また、ブロックチェーンによって訓練プロセスを分散化することで、複数の当事者が独自の情報と専門知識を提供することができ、単一のバイアスのある視点の影響を軽減するのに役立つ

客観的な中立性を維持するためには、データ収集、モデルの訓練および評価を含むAI開発のさまざまな段階に注意を払う必要がある。さらに、AIシステムの継続的な監視および更新が、時間の経過とともに生じる可能性のある偏見に対処するために不可欠である。

ブロックチェーン技術がAIシステムを完全に中立にするかどうかをより深く理解するため、コインテレグラフは、人工知能とブロックチェーンを組み合わせたプロジェクトであるSingularityNETの創設者兼CEOのベン・ゲールツェル氏に話を聞いた。

彼の見解では、「完全な客観性」という概念は、有限のインテリジェンスシステムが有限のデータセットを分析する文脈ではあまり役に立たない。

ブロックチェーンとWeb3システムが提供できるのは、完全な客観性やバイアスの欠如ではなく、AIシステムがどのようなバイアスを持っているかを明確に認識できる透明性だ。また、ユーザーコミュニティがAIモデルを好みのバイアスに調整し、どのようなバイアスを反映しているかを透明に認識できるように、オープンな構成可能性も提供している」と彼は説明する。

彼はさらに、AI研究の分野では、「バイアス」は汚い言葉ではなく、単にAIシステムがデータ内の特定のパターンを探す傾向を示すものであると述べる。ただし、ゲールツェル氏は、中央集権的な組織によって誘導されたもので、影響を受けるユーザーが認識していない不透明な偏りについては、人々が警戒する必要があると認める。

ChatGPTなどの最も一般的なAIアルゴリズムは、透明性や自身のバイアスの開示に関しては不十分である。したがって、AIのバイアス問題を適切に処理するために必要なのは、分散型の参加型ネットワークとオープンモデルである。それは、オープンソースだけでなく、オープンウェイト行列がトレーニングされ、適応されたオープンコンテンツのモデルだ」と、ゲールツェル氏は言う。

同様に、AIに特化したブロックチェーンネットワークであるTenetの最高運営責任者であるダン・ピーターソン氏は、中立性を定量化するのは難しく、データセットが中立性を失う時点について定量化可能な基準がないため、一部のAI指標は中立であることができないとコインテレグラフに語った。彼の見解では、それは最終的にエンジニアが線を引く視点にかかっており、その線は人によって異なることがある。

「何かが本当に『中立』であるという概念は、歴史的に克服が困難な課題だ。生成AIシステムに供給される任意のデータセットの絶対的な真実は、固定するのが難しいかもしれないが、私たちはブロックチェーンとWeb3技術を利用して、手元のツールを最大限に活用することができる」と彼は主張する。

ピーターソン氏は、分散型システム、検証可能性、さらにはソーシャルプルーフィングを中心とした技術が、「できるだけ」絶対的な真実に近づくAIシステムを構築するのに役立つと述べている。「ただし、まだターンキー・ソリューションではない。これらの進化する技術は、明日のシステムを構築するにつれて、猛烈なペースで針を前進させるのに役立つだろう」と彼は言う。

AIドリブンの未来に向けて

スケーラビリティは、ブロックチェーン技術にとって依然として大きな懸念事項である。ユーザーや取引の数が増えるにつれて、AIシステムによって生成される膨大なデータ量を処理するブロックチェーンソリューションの能力に制約が生じる可能性がある。さらに、既存のAIにブロックチェーンベースのソリューションを採用し統合すること自体も大きな課題を抱えている。

第一に、AIとブロックチェーン技術の両方に関する理解と専門知識の欠如が、両方のパラダイムを効果的に組み合わせたソリューションの開発と展開を妨げる可能性がある。第二に、ブロックチェーンプラットフォームの利点、特にバイアスのないAIデータの伝送を確保することに関して、少なくとも初期段階では関係者を納得させることが難しいかもしれない。

これらの課題にもかかわらず、ブロックチェーン技術は、急速に進化するAIのランドスケープを安定化させるという点で、非常に大きな可能性を秘めているブロックチェーンの主要な特徴である分散化、透明性、不変性を活用することで、データの収集、管理、ラベリングにおけるバイアスを減らし、結果的により公平なAIシステムが実現される。したがって、今後どのように展開するのかを見ていくことは、非常に興味深いものになるだろう。