ライブデモ:ひとつの問いに、旧版と新版の答えを出典ごと並べて見られる。
46,705
旧版と新版で答えが違った組
7,042
うち、臨床的に答えが変わった件
201
対象にした診療ガイドライン
2010–24
たどった改訂の期間
Why
なぜ「変わった瞬間」を集めるのか
きっかけは、モデルが古い知識を自信たっぷりに答える問題でした。その推奨がいつの時点のものか、モデルは区別しません。ならば、答えが変わった瞬間そのものをデータにしよう、と考えました。新旧を並べれば、知識の古さを測る物差しにも、時間に強い検索を鍛える教材にもなります。
医療は、これが命に直結する分野です。抗凝固薬の使いどき、がんの一次治療。数年で標準が入れ替わることは珍しくありません。だから最初の題材に選びました。
How
どう作ったか
まず新版からQ&Aを起こし、対応する旧版の本文をmed-ruriの埋め込み検索で引きます。引いてきた箇所をもとにGemmaが両版の答えを書き、差分を5つに分類する。新しい薬のように埋め込み検索が拾いにくいものは、キーワードで別に拾いました。検索の土台には、自分で作ったmed-ruriをそのまま使っています。上の部品を、上のデータ作りに回す。この地続きが、精度と再現性の両方で効きました。
Structure
5つの差分タイプ
| type | 件数 | 中身 |
|---|---|---|
| revision | 7,042 | 版で答えが臨床的に変わった |
| addition | 6,680 | 矛盾せず情報が足された |
| none | 31,298 | 内容は同じで言い回しだけ違う |
| new | 1,430 | 旧版になかった新しい薬や概念 |
| unrelated | 255 | 検索のミスマッチ(要確認) |
各行は、質問・旧版の答え・新版の答え・差分の要約に、PMIDや年・出典元の該当箇所まで付いています。学習にも、事実確認にも使える粒度にしました。
Use
使いどころ
- DPO(好ましい答えを選ばせる学習)。revisionのペアは、新しい推奨を選ばせる教材にそのまま使えます。
- 医療教育。新旧を並べて「どう変わったか」を見せる。
- 時間理解の評価。モデルが版の違いを区別できるかを測る。
- 時間に強い検索。古い版を引っかけの不正解にして、検索モデルを鍛える。
License
ライセンス
CC BY 4.0。表示さえすれば、商用でも改変でも使えます。中身はガイドライン本文の再配布ではなく、検索で引いた箇所に基づく差分とQ&Aです。臨床で使う前には、必ず出典元に当たって確認してください。
Related