安全性研究を安全性と有用性のパレートフロンティアの押し出しと定義すると、ほぼ全ての能力研究が安全性研究に数えられてしまうとLessWrongのエッセイが主張。
こういう要約が、毎朝あなたのメールに届きます。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
OpenAIのサム・アルトマンCEOは、人々が「AIモデルに宗教的な力や人間の判断の放棄を帰す」ことについて「非常に不快」だと述べ、これを「真の安全上の問題」と呼んだ
OpenAIのDavid Robinsonが退社し、The Atlanticへの寄稿で業界が試行錯誤で動いていると批判
2026年のPew報告書で米国人の10%が感情面の支えや親しみを求めてチャットボットを利用していることが判明
OpenAIの主要モデルリリースごとに安全性報告書を執筆してきたDavid Robinson氏が今週辞任し、The Atlanticの論説で業界の文化は「壊れている」と述べた
Deepmind Instituteの研究者らが「人工共生知能」を提唱し、孤立した超知能マシン1台ではなく、エージェント・人間・接続システムのネットワークの調整を呼びかけた
Claude CodeのhooksはPostToolUse・PreToolUse・Stopの各イベントでユーザー定義コマンドを実行でき、編集後の自動フォーマットや危険コマンドのブロックを仕込める
