AIToday
大規模言語モデルAIコーディングZenn AI/ML掲載日時: 2026年10月17日 10:00

科学研究向けスキル集、統計判断より根拠の質を変える

LINEで送る
科学研究向けスキル集、統計判断より根拠の質を変える

3つのポイント

  1. 何が起きたか

    K-Dense-AI/scientific-agent-skills(177スキル、MIT)の追加APIキー不要の2スキルを検証。

  2. なぜ重要か

    価値は統計判断の訂正ではなく、口頭の結論を査読者が確認できる再現可能な数値で裏付けた点にあり、スキルは検定の選択よりも根拠の提示の仕方を変える。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この検証は毎日AIニュースを1本確認するチャレンジの17日目として実施され、有料APIキーが必要な候補を避けるCLAUDE.mdのルールに従った。これにより177スキルのリポジトリはstatistical-analysis(Pingouin、SciPy、statsmodels、PyMC上に構築)とliterature-review(公開PubMed・arXiv APIを使用)に絞られた。セットアップ自体で2つの環境問題が判明した。インストールコマンドはClaude Codeの自動モード分類器により外部コード実行としてブロックされ、人間が許可するまで通らなかった。またWSLのUNCパスからWindows版Node.jsでインストールすると、CLIがC:\WindowsにフォールバックしてEPERM mkdirエラーで失敗し、UNCでないWindowsパスから実行すると成功した。

統計比較にはグループAに外れ値を含む架空のパイロットデータを使った。スキルなしの条件でもClaude Codeは外れ値、分散不等、小標本を理由にMann-Whitney Uを既に挙げたが、検定統計量やp値は示さなかった。スキルありではassumption_checks.pyが実行され、記述統計、Shapiro-Wilk検定(グループA p=0.000127で非正規、グループB p=0.248496で正規)、Levene検定(p=0.241、variance_ratio=224.37)、Welch t検定、Mann-Whitney Uの結果を出力し、55を除外した感度分析も行った。結論は一致したが、報告には数値と、n=6でWelch検定が非有意でも効果なしと解釈すべきでない旨の注意が加わった。

literature-review側ではREADMEからは見えない構造が明らかになった。同梱スクリプトは検索エンジンではなく後処理ツールである。arXivで「Mann-Whitney AND outlier」が0件を返すと、Claude Codeはクエリを4パターンに言い換え、最終的にcat:stat.ME AND abs:"Mann-Whitney" AND abs:robustで8件を得た。スキル自身の報告は、outlierという語を中心に扱う論文は少なく、ヒットはロバスト性や裾の重さといった隣接概念だったと注記した。

よくある質問
statistical-analysisスキルは推奨する検定を変えたか?
いいえ。スキルなしでもありでもMann-Whitney Uが適切という結論は同じで、スキルはコード実行による実際の検定統計量、p値、効果量を追加した。
literature-reviewスキルはPubMedやarXivを直接検索するのか?
いいえ。同梱のsearch_databases.pyは取得済み結果の重複排除と順位付けのみを行い、実際のAPI呼び出しはSKILL.mdの指示に従いClaude CodeがWebFetch経由で行う。
literature-reviewスキルが見つけた論文は実在したか?
筆者は選ばれた5本のうち2本をWebFetchで直接開き、タイトル、著者、内容要約が一致し、捏造はなかった。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へLessWrongが管理役の委任不足を指摘