これまでの各稿で見てきた課題——知識の境界、データの死角、推論の限界、学習の偏り——には、共通する背景がある。モデルやデータの中身が、外から見えにくいという不透明さだ。この不透明さに対して、「せめて記述しよう」という抵抗が生まれている。
Model Card——モデルを言語化する
Mitchell らが提案した Model Card は、機械学習モデルに添える「取扱説明書」のようなものだ。どんな目的で作られ、どんなデータで訓練され、どの条件下で性能が落ちるのか。そうした前提と限界を明文化することで、モデルを適切な文脈で使うための情報を提供する。重要なのは、性能の数値だけでなく「どこで使うべきでないか」を書く点だ。
これは、AIは「知らない」と言えるのかで論じた「無知を示す」課題の、制度的な対応でもある。モデル自身が無知を語れないなら、せめて作り手が限界を書き添える、という発想だ。
Datasheet——データを言語化する
同じ精神が、データの側にも及ぶ。Gebru らの Datasheets for Datasets は、データセットに「誰が、なぜ、どうやって集めたか」を記述する枠組みを提案する。その写真は誰を写していないかで扱った代表性の欠如や、データに刻まれた偏りの発生源を、少なくとも可視化する土台になる。
ただし、記述すれば偏りが消えるわけではない。Datasheet は問題を解決する道具ではなく、問題を見えるようにする道具だ。ベンチマーク汚染のような、データの中身を完全には把握しきれない課題を前にすると、記述の限界も見えてくる。
抵抗としての記述
もっとも、ドキュメント化には手間がかかり、強制力も乏しい。書かないほうが速く、書かなくても動く。だからこそ、あえて書くという選択には意志が要る。不透明さを当たり前とする流れに逆らって、前提と限界を言葉にしておく——それは地味だが、確かな抵抗である。
一方で、記述が形式化し、免罪符のように使われる危うさも指摘されている。限界を書いておけば責任を果たしたことになる、という運用になれば、本来の目的から外れる。ドキュメント化は目的ではなく、より良い議論の出発点でしかない。
裏を返せば、AIの知識のギャップと向き合う最初の一歩は、そのギャップを言葉にすることなのかもしれない。何を知らないか、どこで間違えるか、誰が抜けているか。それらを記述する営みは、モデルを賢くする作業とは別の、しかし不可欠な仕事として残り続ける。本サイトが扱ってきた論点の全体像は、ナレッジマップにまとめている。
参照した資料：Mitchell ほか「Model Cards for Model Reporting」（FAccT, 2019）／ Gebru ほか「Datasheets for Datasets」（Communications of the ACM, 2021）。
