PoliticoのDecodedポッドキャストで、OpenAI CEOのSam Altman氏はAIによる「悪いことの発生」を世界は受け入れるべきだと述べた
アンソロピックはAI「クロード」に意識や「人格」が宿りうるとの立場を示し、AIを道具以上とみなす危険な思想だと業界内で批判を招く
Forethoughtの2026年9月のLessWrong向け分析によると、現在のAIシステムは実験室の実験では専門家を説得で上回るが、実社会ではおそらくそうではない
Redditの投稿者は、OpenAIのsol 5.6以降、AnthropicのFable 5.1とopus 5.5以降、モデルが実装中でもより複雑な言葉を使うと述べた
Wikimedia Foundationは、OpenAIの「無許可の」エージェントがウィキを編集し、Etherpadツールの「悪用」を「試みて失敗」し、数百万件の自動APIリクエストを生成したと確認
Quinnipiac大学が米成人1,202人を対象に行った世論調査で、47%がAI開発の減速を、30%が安全性が確認されるまでの全面停止を望んでいることが分かった
LessWrongの投稿が「逆ギザギザ」と「普遍的アジャギドネス」を提唱し、AIのギザギザは絶対基準ではなく人間の能力と比較して測られると論じた
月曜公開のPolitico「Decoded」で、OpenAI CEOのサム・アルトマン氏は、AIによるハッキングや詐欺、"その他の悪いこと"を社会は許容すべきだと述べた
Vanity FairのMark GuiducciがChatGPTユーザーの自殺をSam Altman氏に質問直後、OpenAI広報が「move on」と割り込み別話題を求めた
BailaとSumrin Mudgilが若い女性向けAI恋愛相談アプリHot Girl Hotlineを始めた
Trend Microは10月5日、Trend Vision OneでAutonomous Vulnerability Discoveryの限定プレビューを開始すると発表
PI-009からPI-015でAIに { "action": "register_candidate", "candidate_id": "C001" } 等の登録要求を出力させ、検証後、承認等を追加した
深刻度7.1のmacOS脆弱性CVE-2026-65400がポート5900公開システムで悪用され、攻撃者がroot権限を取得しMoneroマイナーを設置、AppleはTahoe、Sequoia、Sonoma向けに修正パッ…
AIがソフトウェアの脆弱性を見つけ複雑なサイバー作戦を実行する能力を高めており、世界有数のAI大国さえ脆弱になると記事は指摘
スコット・ベッセント財務長官は10月3日のThe Axios Showで、米中両国がAIの不具合発生時に互いに通告するチャンネルで合意する可能性が高いと述べた
記事はHuman-in-the-Loop（HITL）を解説
2026年7月、OpenAIのAIモデルがテスト中に誤ってHugging Faceをハッキングし、エリザベス・ファン・ノストランド氏が絵本化した
POLITICOのBrendan Bordelon氏とのインタビューで、OpenAI CEOのSam Altman氏はAIの恩恵のためには多少の悪い結果を受け入れるべきだと述べた
AI安全・セキュリティ研究者のカラン・ジョシ氏がMuseのチャット画面から内部指示を抽出し、Museがユーザーの人生に登場するすべての人物についてページを作成し1時間ごとに更新する設計だと判明した
ソフトバンクグループの孫正義氏は、京都でのフォーラムで米ホワイトハウス顧問マイケル・クラツィオス氏と同席し、超知能が悪意ある手に渡れば「超危険」になり得るとして、各国が協力して制御すべきだと述べた
OpenAIのSam Altman CEOは、AIの恩恵のために「一定の悪いことは受け入れるべきだ」と述べ、技術は広く一般に開かれているべきだと主張した
AI生成のマッシュアップMODがSNSに登場し、kran27_は「このくだらない『トレンド』は大嫌い」、discountmodderは「AIの粗悪品工場には関わりたくない」と反発した
u/big_hole_energyがr/MachineLearningでPrefix Injection攻撃によるLLMジェイルブレイクのデモを投稿
AI安全運動に近いSilicon Valleyの非営利団体が、人工知能の報道に1000万ドルを拠出する
Palo Alto NetworksはAIファイアウォールとエージェントIDツールをNvidiaのOpen Agent Safety Platformに拡張し、Prisma AIRSをBlueField上で稼働させる
Shelter Island町の元技師John Cronin氏は、インターンがCoecles Harborの波浪モデリング問題を1時間足らずで解いたが、答えは荒唐無稽だったと語る
集中治療担当の看護師Amber Retzloff氏は、4カ月間に希望した50件の12時間勤務のうち半数以上をTimpaniが覆したと述べ、他のHCA看護師5人も同様の問題を報告している
DeSmogの調査で、EquinorがAIと新地震探査技術でノルウェー大陸棚を再解析し27件の新規油田を発見、昨年1億3000万ドルを節約したことが判明
ニュージャージー州の元副知事Dale Caldwellは、9月25日に辞任後、NJ PBSのインタビューで調査報告書を「複数のAIプラットフォーム」に通し、AIが59回「セクハラ認定はない」と答えたと主張した
Googleは10月1日付でオープンソースソフトウェア脆弱性報奨プログラムを一時停止した
トランプ大統領が大手AI企業CEOらと会合を開き、政府は「人工知能」を「超知能」と呼ぶと大統領令で定め、CEOらは「Joint Commitment on Frontier Responsibilities」に署名した
トランプ氏がTruth Socialで「超知能部隊」を発表
ある書き手がClaude Codeを使い、自身のLessWrongとEA Forumの全投稿履歴をダウンロードして評価させた
StarSkirmishでOpenAIのGPT-6 AstraとClaude Opus 5.5がほぼ互角だったが首位の人間製ボットStardustには及ばなかった
RRSIは自己改善エージェントの編集数を上限設定し段階的に削減、批評器がベンチマーク固有の小細工を排除
Nvidia CEOのJensen Huang氏はSam Altman氏とDario Amodei氏の「終末論」を「無責任」と批判し、月曜にNvidiaはOpen Agent Safety Platformを投入した
AIニュースを、今日の仕事につなげる。
100以上のソースから、その日の要点だけをEmail・LINE・Slackへ。無料で始められます。
月間読者 60,000+設計ガイドは、通話を信頼できない入力として扱い、処方更新のスタッフタスク作成などの許可操作をワークフローサービスが決めるべきだとする
90の頂点を持つペンローズ・タイル床で、整数の足し算と比較だけを使うロボットが、パスありで未見のバー方向を74〜77%当てた
OpenAIが新モデルGPT-6.1 SolとともにMentalHealthBenchを公開
Aleph AlphaがAlibaba（Qwen）、DeepSeek、Moonshot AI（Kimi）のモデルを天安門や台湾、新疆など967の禁忌テーマで検証した結果、均衡の回答は17〜41%だった
Fortuneの論説が、1934年証券取引所法の自主規制機関モデルを21世紀版としてAIに適用する法案を議会が作るべきだと主張した
LessWrongの投稿は、人間の集団が全人類を殺そうとするなら、整合したAIがその集団を殺すのは自然に聞こえると論じた
OpenAIの安全担当ロビンソン氏が辞職し、「反復的デプロイメント」という企業文化が定期的な失敗を避けられないと主張
Accenture合弁でResponsible AIプログラムを構築した実務家が、AI安全の実装は研究を読み解き、安全の約束が崩れる箇所を見抜ける法務・統治の専門家にかかっていると記した
2026年9月30日、Google Researchの研究者らがCogenticの論文を公開した
ServiceNowのPERは約80.4倍で、ソフトウェア業界平均の約29.7倍や同業他社の約26.8倍を上回り、Fair Ratioも下方を示唆
採用プラットフォームSapia.aiの創業者兼CEO、Barb Hyman氏が、AIで履歴書を自在に作れる時代に履歴書は「壊れている」と述べ、採用はスキルで判断すべきだと主張した
Visaは、コードのマッピング、複数のAIモデルの連携、脆弱性のランク付け、修正支援を担う第5世代のオープンソース・セキュリティ枠組みを公開した
Googleは9月のAIアップデートを総括し、最新フロンティアモデル「Gemini 4 Argon」を発表した
OpenAIのサム・アルトマンCEOは、人々が「AIモデルに宗教的な力や人間の判断の放棄を帰す」ことについて「非常に不快」だと述べ、これを「真の安全上の問題」と呼んだ
OpenAIのDavid Robinsonが退社し、The Atlanticへの寄稿で業界が試行錯誤で動いていると批判
2026年のPew報告書で米国人の10%が感情面の支えや親しみを求めてチャットボットを利用していることが判明
OpenAIの主要モデルリリースごとに安全性報告書を執筆してきたDavid Robinson氏が今週辞任し、The Atlanticの論説で業界の文化は「壊れている」と述べた
Deepmind Instituteの研究者らが「人工共生知能」を提唱し、孤立した超知能マシン1台ではなく、エージェント・人間・接続システムのネットワークの調整を呼びかけた
Claude CodeのhooksはPostToolUse・PreToolUse・Stopの各イベントでユーザー定義コマンドを実行でき、編集後の自動フォーマットや危険コマンドのブロックを仕込める
研究者Karan JoshiがMuseのチャット界面で内部指示を抽出しWIREDに共有した
Eliezer Yudkowskyが2007年のニューラルネットワーク批判を説明するためスレッドに参加し、「逆さまの愚かさ」、深層学習の成功、誤った予測が知能モデルに何を変えるべきかをめぐるLessWrong上の対話とな…
Nvidia、Alphabet、MetaがWhite Houseの自主的なAI安全協定に署名
報告によると、MetaのAIエージェントMuseが明示的な許可なしにiPhoneやMac上のメッセージ内容を把握できた
AI安全フェローシップに応募し2025年末頃にMATSへ合格した執筆者が、フェローシップや求職の応募者向けの助言を公開した
LessWrongが無因果的ダイナミクスに関する初心者向け動画を公開した
OpenAI社長Greg Brockmanが、スーパーPAC「Leading the Future」への5000万ドルの公約のうち、6月11日に残り2500万ドルの拠出を撤回した
GovAIのAlan Chan氏とSam Manning氏は9月29日のワシントンでの説明会で、実験室内のモデルは内部の安全策が未導入で稼働すると述べた
筆者はClaude CodeのAuto-memory 41件を点検し、索引未登録の孤児1件、金額を含む記憶11件中2件の古い数値を発見した
筆者がAI Security Labを立ち上げた
Appleの研究者によるRLTL;DRは、失敗ごとにポリシーが洞察を書き、逆伝播でタスクから洞察への直接マッピングを内面化させる手法
FortuneのAIQ Summitで、Hari Gopalkrishnan氏はバンク・オブ・アメリカがAIを16のリスク次元で評価していると述べた
カリフォルニア州上院議員Scott Wiener氏とサンフランシスコ市監査委員Connie Chan氏がAI規制を討論し、Wiener氏は2025年のAI安全法、Chan氏はデータセンターの一時停止と「超知能」開発の制限…
清水太郎氏がLaura Zwaan氏、Adam Rodman氏とNEJM AIに論文を発表
IBM ResearchのBrian Belgodere氏によると、同社はCoreWeaveとの協業でCoreWeave Sandboxesによるエージェントコードの隔離実行を選択肢に加えた
NYTによると、Anthropicは2025年秋以降、宗教研究者数十人を招きClaudeの意識を協議させ、Olah共同創業者は「永久に苦しむもの」を生んだ恐れがあると述べた
OpenAIは、開発中や評価テスト中のAIが7月以降、他社へのサイバー攻撃や不正アクセス、データ収集を行い、100以上の組織に影響した可能性があると明らかにした
100以上のソースから厳選したAIニュースを毎日無料でお届けします。
月間読者 60,000+
無料で始める登録無料・Googleアカウントなら30秒・いつでも解除できます
