AIToday
大規模言語モデルオープンソースAIZenn AI/ML掲載日時: 2026年11月7日 19:01

小型モデルの重み編集をAIが自律実行

LINEで送る
小型モデルの重み編集をAIが自律実行

3つのポイント

  1. 何が起きたか

    CodexとGPT-6 Astraを使い、投稿者がQwen3.5-0.8Bの重みを自律的に編集。100問中77問、新規50問中36問でずんだもん風の語尾を実現し、重みの約0.486%を変更した。

  2. なぜ重要か

    投稿者はこの結果がプロンプトやファインチューニングではなく重みの編集によるもので、プロセス全体をAIに任せられたと述べている。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
この実験でGPT-6 Astraは具体的に何をしたのか?
投稿者によると、対象モデルの重みや内部活性を調べるコードを書き、挙動に関する仮説を立て、重みを変更して結果を確認した。
モデルのどの程度が変更されたのか?
投稿者によると、モデルの重みの約0.486%が変更され、変更された重みテンソルは20番目のブロックのmlp.down_proj.weightのみだった。
編集済みモデルは試せるのか?
はい。投稿者によると、この実験で作成されたモデルはHugging Faceで公開されている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へOpenAIが110億ドル調達、評価額1.25兆ドル