AIToday

Qwen 3:0.6Bという小型AIモデルをファインチューニングすることで、家庭管理の質問を分類する精度が10%から79%に改善しました。

Hacker News4時間前2分で読める
Qwen 3:0.6Bという小型AIモデルをファインチューニングすることで、家庭管理の質問を分類する精度が10%から79%に改善しました。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. 1

    何が起きたか:個人プロジェクトとして、Qwen 3:0.6B(6億パラメータ)という小型の言語モデルを約850件の家庭関連の質問データセットでファインチューニングしました。その結果、質問を18個のカテゴリ(HVAC、プール、給湯器など)に分類する精度が、プロンプトだけの場合の10%から79%に向上しました。

  2. 2

    なぜ重要か:ベースラインではモデルがカテゴリを幅広く誤分類したり、許可されていないカテゴリを作り出したりするなど、極めて信頼性が低い結果でしたが、ファインチューニングにより動作が大幅に改善されました。これは、わずか600Mパラメータの小型モデルでも、適切なトレーニングデータがあれば実用的な性能を発揮できることを示唆しています。

  3. 3

    注目点:ファインチューニング後もなお改善の余地があり、モデルが正しいカテゴリの一部しか出力しない(例:「hvac」ではなく「ac」)、あるいは意味的に似たカテゴリ(fountain、water heater、poolなど)で混同する傾向が見られています。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝5分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →