AIToday
大規模言語モデルSimon Willison's Weblog掲載日時: 2026年11月4日 4:00

Qwen 3.8 27Bが重みを解釈

LINEで送る
Qwen 3.8 27Bが重みを解釈

3つのポイント

  1. 何が起きたか

    LM StudioでQwen 3.8 27Bにゲーム識別プロンプトを実行したところ、Pac-Man(72%)、Pong(75%)、Breakout(88%)を特定したがFreewayは失敗した。

  2. なぜ重要か

    ノートPC上の17GBモデルが論文のツールなし重み読み取りを再現したことは、この能力が最先端システムに限られないことを示唆する。ただしブロガー1人の試行はベンチマークではない。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar KhattabによるSparks of Weight-Space Programming論文は、2つの主張を束ねていた。最先端モデルがツールなしで生の重みを読めるという主張と、コードを使えば他のモデルを編集して改善できるという主張だ。Simon Willisonはこの2つを分け、前者のみを論文自身のexp1_which_gameプロンプト(含まれる重みだけが異なる)でテストした。

Qwen 3.8 27Bでの彼のローカル試行はブロガー1人の実行であり、管理されたベンチマークではなく、Atari 2600の4タイトルで最もマイナーなFreewayを外した。それでも、長いコンテキストウィンドウを備えたLM Studioに読み込んだ17GBモデルが、浮動小数点数のみからプロンプトあたり46分12秒〜1時間4分54秒で3つのゲームを特定できたという事実は、他の人にも試させる種類の再現だ。

Willisonはより広い物語に慎重だ。論文が重み読み取りとコード支援更新を混同しているというMatthew Honnibalの批判や、Qwen3.5-0.8Bの修正が人間の研究者が取る手順に従っているというSean Goedeckeの見方を挙げている。彼の結論は、論文は面白いが、ソースコードの時代が終わったと宣言する根拠にはならないというものだ。

よくある質問
Qwen 3.8 27Bがゲームを特定するのにどれくらいかかったか?
Pac-Manは46分12秒と推論トークン43,506、Pongは1時間4分54秒、Breakoutは52分25秒だった。Freewayのプロンプトは失敗した。
Weight-Space Programmingとは何か?
LLMがトレーニングループを書かずに、推論を通じてモデルの重みを直接分析・変更することを指す論文の用語だ。
論文の知見は反論なく受け入れられたのか?
そうではない。spaCy作者のMatthew Honnibalは、重み読み取りとコード支援によるモデル更新を混同しているとして論文を誤解を招くと呼び、Sean GoedeckeはQwen3.5-0.8Bの例を人間のML研究者が取る手順だと分解した。
Simon Willison's Weblog元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

Casapが5,600万ドル調達

CasapはBase10 Partnersが主導し、ExperianとSynchronyが戦略的投資家として参加する5,600万ドルのシリーズBを発表

NEWTHE BRIDGE1時間前

近畿大学がPaperpalを4,000ライセンス導入へ

近畿大学は2026年11月9日から全キャンパスの専任教員と博士課程学生にPaperpal 4,000ライセンスを付与する

NEWASCII.jp1時間前

HIX AIが外部アプリ連携を大幅更新

HIX AIは11月4日のコネクタ更新でMicrosoft 365、Google Workspace、Notion、Canva、YouTube、Zoomを連携し、未読メール要約や会議予約をチャット指示だけで可能にした

NEWASCII.jp1時間前

GENSHI AIが自作コードエディタを社内導入

GENSHI AIは、長嶋大地氏が2026年7月に開発を始め、8月に公開、9月に完全移行したAGPL-3.0の無料Rustエディタ「necoder」を社内導入したと発表した

NEWPR TIMES (AI)1時間前

旧PCの現代チェスAI、100局で78勝

Nicholas Carlini氏が200MHzのPentium Proに移植したStockfish 17と現代のRyzen 7 PC上の1996年製Crafty 11.13を100局対戦させ、旧機が78勝17分5敗だっ…

NEWGIGAZINE AI1時間前

オープンLLM公開モデルの52.6%で埋め込みがほぼゼロ

Xin Liu氏らはオープンウェイトLLMリポジトリ291件を調査し、非共有のゲート付き・ハイブリッドチェックポイント38件のうち20件(52.6%)で入力埋め込みのノルムが10−6未満だった

NEWAI Weekly1時間前
次の記事へAIエージェントが電波望遠鏡を制御し信号を解析