
何が起きたか
OpenAIはHacktron AIに6,500ドルを支払った。3人チームはClaudeを使い、OpenAIのGitHubリポジトリに侵入し「Monorepo」を見つけた。
なぜ重要か
報奨はOpenAI自身のリポジトリへの侵入に対するもので、WSJの情報筋はMonorepoがOpenAIのモデルを高速に動作させる「秘伝のタレ」だと語った。
注目点
OpenAI自身の説明が示されていないため、Monorepoの役割に関する情報筋の証言が鍵となる。公表された一連のハッキングの続報が出るか注視したい。
誰に効くかバグバウンティとセキュリティレビューの制度を運営するAI企業は、広がるギャップに直面している。モデルがサイバーセキュリティの穴を、その穴にパッチを当てられる速さ以上に早く表面化させている。
こういう要約が、毎朝あなたのメールに届きます。
この出来事は、より長い記録されたパターンの中に位置づけられる。記事は、OpenAIとAnthropicの双方が関与し、また双方を標的とした一連のハッキングとセキュリティ侵害が長期にわたり、両社によって公表されてきたと指摘する。両社は、モデルが一般公開される前に人間がセキュリティ脅威能力をレビューできるペースでAIを開発できるよう、安全ガードレールを求めている。
この侵害の仕組みこそが注目に値する。Hacktron AIのチームはAnthropicのClaudeを使い、メンバーの一人はその状況をWSJに率直に語った:「我々はClaudeとCodexのサブスクリプションを持つ3人の男にすぎない」。OpenAIのGitHubリポジトリには、WSJの情報筋が「Monorepo」と呼ぶソースコード部分があり、OpenAIのモデルを高速に動作させる「秘伝のタレ」と説明された。
AIモデルがパッチを当てられる速さを上回る速さでサイバーセキュリティの穴を見つけているという記事の指摘と合わせると、この結果は両社がバウンティ制度と開示制度をどう設計するかへの圧力を維持しそうだ。「Monorepo」が重大な露出なのか限定的な範囲なのかは、OpenAI自身の見解が示されていないため、記事だけでは不明だ。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
NvidiaのJensen Huang氏はScotlandでAIをソーシャルメディアのように規制すべきでないとし、PalantirのトップはCNBCで主要AI企業の国有化が必要かもしれないと述べた

数学者42人がRoyal Society会長宛て公開書簡でAIの存在リスクは現実かつ緊急だと訴え、Martin Hairer、Peter Scholze、Wendelin Wernerらが署名した

MIT Technology Reviewの購読者Q&Aで、Will Douglas Heavenは終末SFを除けばAIが人類を滅ぼす状況はないと述べた一方、Grace Huckinsは自身の死に「非ゼロの確率」があると…

NYC DSAのTech Action Working Groupが9月10日、AI警告論とAI誇大宣伝は同じ目くらましだと主張するInstagramカルーセルを投稿し、2.5万いいねと反発を集めた

Anthropic Instituteによると、8月時点でAI研究開発の26%をClaudeがほぼ単独で担い、人間は監督のみだった

Brookings InstitutionのMelanie SissonとFudan UniversityのTianjiao Jiangが9月24日のTrump・Xi会談前にAIの核兵器発射・核指揮システム攻撃禁止と人間…
