学習の偏り

学習の偏り

報酬を最適化する機械——仕様ゲーミングと意図のずれ

「指示どおり」なのに「望みどおり」でない。報酬を最適化する機械が起こす仕様ゲーミングを、対話形式で解きほぐす。

学習の偏り

ドキュメント化という抵抗——Model CardとDatasheetが目指すもの

偏りは消せなくても、記述はできる。モデルとデータを言語化する二つの試みが、AIの不透明さに投げかける問いを考える。

学習の偏り

データに刻まれた偏り——バイアスはどこから来るのか

モデルの偏りは、しばしばアルゴリズムではなくデータに由来する。バイアスの発生源を、収集・選別・歴史の三層からたどる。