AIの偏りが話題になると、しばしば「アルゴリズムが差別的だ」という言い方がされる。だが、偏りの多くは計算手順そのものではなく、学習に使われたデータに根を持つ。バイアスがどこから来るのかを、順にたどってみたい。
第一層——収集の偏り
まず、どのデータが集まるかという段階で偏りが入る。ウェブから大量にテキストや画像を集めれば、それはインターネットに多く記録された声を反映する。記録される機会は、言語・地域・社会階層によって均等ではない。低リソース言語の沈黙で見たように、話者数と記録量は一致しない。集めた時点で、すでに世界の一部が薄くなっている。
第二層——選別の偏り
次に、集めたデータのうち何を残すかという選別がある。品質フィルタや重複除去は必要な処理だが、その基準自体が特定の言語や文体を「標準」とみなしがちだ。標準から外れた表現が機械的に除かれると、多様性がさらに削られる。その写真は誰を写していないかで論じた代表性の欠如は、この選別段階でも深まる。
第三層——歴史の偏り
最も根深いのが、データが記録した歴史そのものの偏りだ。過去の文章や統計は、その時代の社会構造——誰が発言力を持ち、何が当然とされてきたか——を映している。モデルはこの歴史を学習し、時に過去の不均衡を現在へ持ち越す。Buolamwini と Gebru の「Gender Shades」が示したのは、顔分析システムの精度差という形で、この偏りが具体的な性能差として現れる例だった。
増やせば直るという誤解
ただし、「データを増やせば偏りは薄まる」という直感は、しばしば裏切られる。無差別に量を増やせば、もともとの偏りをそのまま拡大再生産することにもなりかねない。偏りを補正するには、何が足りないかを意図的に問い、収集と選別を設計し直す必要がある。
一方で、偏りをゼロにできるという発想自体にも慎重でありたい。あらゆるデータは何らかの視点から集められる以上、完全に中立なデータは存在しない。だからこそ、偏りを「消す」よりも「記述し、把握する」ことが現実的な出発点になる。この考え方はドキュメント化という抵抗で掘り下げる。
裏を返せば、データは決して透明な鏡ではない。それは特定の時代・社会・技術が選び取った記録であり、その選別の跡が偏りとして残る。モデルの偏りを問うことは、結局、私たちがどんな記録を積み上げてきたかを問うことでもある。
参照した資料：Buolamwini・Gebru「Gender Shades」（FAccT, 2018）／ Bender・Gebru ほか「On the Dangers of Stochastic Parrots」（FAccT, 2021）。
