記事一覧に戻る

QU-NLPチームがQwen3-4Bモデルの2段階QLoRAファインチューニングで臨床QAタスクに挑戦、32.87の総合スコアを達成

arXiv cs.CL · 2026年4月17日

QU-NLPチームがQwen3-4Bモデルの2段階QLoRAファインチューニングで臨床QAタスクに挑戦、32.87の総合スコアを達成

AI要約

  • Qwen3-4Bモデルを4ビットNF4量子化で読み込み、emrQA-MedSQuADコーパスの30,000サンプルで臨床領域の専門知識を習得
  • 患者向け臨床質問応答(Subtask 3)で2段階ファインチューニングを実施し、BLEU 9.42、ROUGE-L 27.04を含む複数指標で評価
  • BM25、TF-IDF、ファインチューニング済みクロスエンコーダの3つの検索手法をアンサンブル化して根拠文章抽出(Subtask 4)を実行、micro-F1スコア67.16を達成
  • ArchEHR-QA 2026共有タスクの医療記録質問応答システムで、限定的なパラメータ数のモデルを効率的にカスタマイズする実装方法を実証

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める