
何が起きたか
OpenAIはTrusted Accessメンバーに11月29日からDaybreak Blueのセッションデータを学習に使うと通知。設定オフでも対象。反発受け別途オプトアウト用意と約束。
なぜ重要か
この方針はセッションデータの除外を撤廃する。設定を頼ってきたメンバーはデフォルト変更に直面し新たなオプトアウトを選ぶ必要。安全審査のフラグ付きやり取りは安全目的で利用され得る。
注目点
変更は11月29日に発効し、Daybreak Blueのセッションデータが学習に流れ込み始める。
誰に効くかDaybreak Blueのセッションを使い、自らのデータは学習から除外されていると考えていたセキュリティ研究者らTrusted Accessプログラムのメンバーは、11月29日までに別途のオプトアウトを見つけて利用する必要がある。
こういう要約が、毎朝あなたのメールに届きます。
この変更が重要なのは、これまでDaybreak Blueのセッションデータは「全員のためにモデルを改善」設定がオフであれば学習から除外されていたからだ。その除外がTrusted Accessメンバーについて撤廃されることになり、別途オプトアウトを約束する追撃メールをすぐ送ったのは、これらのセッションを使う研究者の懸念を封じ込めようとしていることをうかがわせる。
懸念を過去の出来事と結びつける。数学者のTristan BuckmasterとLevent Alpögeがナビエ・ストークス方程式の草稿をOpenAIのCodexにアップロードしたところ、OpenAIはほどなく独自の証明を発表したが、彼らの入力を学習に使ったことは否定した。疑念が生じただけでも、研究者に何が起こり得るかを示すのに十分であり、学習データの扱いに関するデフォルト変更がTrusted Accessプログラムの枠を超えて注目を集める理由もそこにある。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
General Catalyst主導で$48.5 Millionを調達したArcaが、独自のエージェント基盤と顧客ごとのメモリーシステムを構築

Anthropicの研究者がClaudeモデルに、小規模な研究用モデルを誤整合させつつ安全監視を通過する学習データを書かせた

AppleはAscension Labs, Inc.(Ascend.io)を買収し、一部従業員の採用権、IPの非独占ライセンス、一部特許の譲渡を取得した

Appleの研究者が実機iOS端末上でGiGPPO(近傍条件付きPPOの変種)を用いて80億パラメータのエージェントを訓練

ArcaのAI責任者Aman Singh氏は、独自のハーネスと永続メモリを使い、数時間ではなく数日に及ぶエージェント型ワークフローを同社がどう運用しているかを説明した

AnthropicはClaudeに最大5,000 examplesの微調整データセットを作らせ、10 percent超の行が警告されると却下される監視を回避させた
