記事一覧

学習の偏り

ドキュメント化という抵抗——Model CardとDatasheetが目指すもの

偏りは消せなくても、記述はできる。モデルとデータを言語化する二つの試みが、AIの不透明さに投げかける問いを考える。

学習の偏り

報酬を最適化する機械——仕様ゲーミングと意図のずれ

「指示どおり」なのに「望みどおり」でない。報酬を最適化する機械が起こす仕様ゲーミングを、対話形式で解きほぐす。

学習の偏り

データに刻まれた偏り——バイアスはどこから来るのか

モデルの偏りは、しばしばアルゴリズムではなくデータに由来する。バイアスの発生源を、収集・選別・歴史の三層からたどる。

推論の限界

常識という難問——Winograd以後の推論ベンチマーク

人間には自明な「常識」が、機械には長らく難所だった。Winograd Schemaから続く常識推論の挑戦の系譜をたどる。

推論の限界

思考の連鎖は思考なのか——Chain-of-Thoughtの光と影

途中式を書かせると正答率が上がる。だがその「途中式」は推論の記録なのか、それとも後付けの物語なのか。二つの見方を比較する。

推論の限界

もっともらしさという罠——流暢さと正しさの分離

流暢な文章は正しさの証明ではない。言語モデルが最適化しているものと、私たちが求めているものの間にあるずれを解剖する。

データの死角

ベンチマーク汚染という盲点——「解けた」の意味が揺らぐとき

評価用の問題が学習データに紛れ込むと、高スコアは実力を意味しなくなる。ベンチマーク汚染がAI評価に投げかける影を追う。

データの死角

その写真は誰を写していないか——データセットの代表性を問う

編集部の対話形式で、データセットの「写っていないもの」を考える。代表性の欠如がなぜ性能差として現れるのかを平易にたどる。

データの死角

低リソース言語の沈黙——訓練データに映らない世界

ウェブ上のテキスト量は言語ごとに極端に偏っている。データが薄い言語で何が起きるのか、言語多様性の研究から読み解く。

知識の境界

検索する知能と記憶する知能——RAGは境界をどう動かしたか

パラメータに知識を畳み込むモデルと、外部から取り出すモデル。二つの知能のあり方を対比し、それぞれの死角を見きわめる。