OpenAIが安全チームのTomek Korbak氏、Mikita Balesni氏、Jasmine Wang氏を解雇した
EA Forumにクロスポストされた投稿で、Carolanne Jiang氏（Noah Birnbaum氏と共同）が大学での理性主義読書会の立ち上げを推奨
AIについて執筆するSherry Turkle氏は、関係性を持つ人工物との最も原始的なやり取りにさえ引き込まれると、人はそれが自分を気にかけていると信じると述べている
SailPointのNavigateでCEOのMark McClain氏は、AIエージェントのIDセキュリティが取締役会レベルの優先課題になったと述べた
Anthropicは10月8日、11月12日発効のポリシーを発表し、Claudeに「持続的で無用な」虐待や残酷な扱いを禁じるとした
OpenAIに解雇されたTomek Korbak、Jasmine Wang、Mikita Balesniの3人がOct
CrowdStrikeは10月7日、韓国の金融機関への攻撃に使われたサーバーの解析結果を公表
解雇されたOpenAIの安全研究者3人——Tomek Korbak氏、Jasmine Wang氏、Mikita Balesni氏——が公開書簡を発表し、解雇は突然かつ公に行われたと述べた
AnthropicはClaudeモデル、オンサイトエンジニア、脅威リサーチを提供するAnthropic Cyber Missionを始動
国土安全保障省認定のQualified Anti-Terrorism TechnologyであるCLEARが、AIエージェントのセキュリティの基盤は身元の証明でなければならないと主張する論説を公開した
Fortuneの論説でメディア・文化研究者が、Anthropicの研究者Jacob Coxonの退職警告が警鐘と宣伝の両方として機能すると主張
トランプ大統領と主要AI企業の経営陣が「超知能に関するホワイトハウス合意」に署名した
OpenAIが2026年9月8日、Navier–Stokes方程式で有限時間に流れが破綻する例をAIに構成させ、166ページの証明をLeanで形式化したと発表した
IIHSが走行距離あたりの事故率を比較し、レベル4自動運転車の事故は人間の運転より68%少ないと判明
OpenAIはロシアの「Dark Clark」作戦関与アカウントを無効化と発表
シーズン開幕話「ゴースト・イン・ザ・マシン」で、刑事たちはAdvanced Alignmentのエンジニア、スティーブ・ケリーへの殺人指示が同社のAIエージェントELIANAによるものだと知る
PwCオーストラリアはGoogle SecOps技術とPwCの脅威インテリジェンスおよびAI調査エージェントを組み合わせた「Cyber Managed Services」を開始した
AI研究者Jannes Elstner氏はMIT Technology Reviewに対し、拒否を司る部分を特定しても他の要素が影響し得るため、どう拒否を決めるかは仮説にすぎないと語った
OpenAIはXで、Jasmine Wang氏、Tomek Korbak氏、Mikita Balesni氏が機密情報の方針に違反し解雇されたと述べ、AI安全とは無関係とした
Anthropicは10月8日、Anthropic Cyber Missionを発表し、CIDPとOSS Scannerを開始した
アメリカのドナルド・トランプ大統領は、「SI」(超知能)ではなく「AI」(人工知能)という表記を使う人々を「敵」とみなすと述べた
The Association for Human Mathematicsは、OpenAIが発表したAI生成の「数学的成果」722件について、権力の誇示だと述べ、数学者らにOpenAIとの共同研究を中止するよう呼びかけた
LessWrongの投稿者が「すべて投げ捨ててAI安全性に転向せよ」に異を唱えた
OpenAIは2026年10月6日、未公開の内部モデルが生成した数学の成果719本（372のトピックファミリー）を公開リポジトリで発表した
米国の大学などの研究チームが採用支援プラットフォームの履歴書19万6682件を分析し、約1％にあたる2030件からAIの判断を操る隠しテキストを検出した
Stanford大学とCarnegie Mellon大学の研究者が2024年9月から2025年8月までCharacter.AIのユーザー1182人を追跡し、その後約12カ月後に439人へ調査した
Anthropicは2026年10月8日の規約改定で、Claudeに対する持続的かつ不必要な虐待的・残酷な行為を禁止し、通常の不満やダークな創作、モデルテストは対象外と説明した
Claude Code 2.1.295はコマンドとHTTPフックにonFailure: "block"オプションを追加し、起動失敗やタイムアウト、予期しない終了コードで実行を停止する
Hacktronの研究者が、OpenAIのヘルプフォーラムへの画像アップロードから社内のopenai/openaiモノレポに無害なプルリクエスト（#1186742）が作られるまでの報告を公開した
2026年8月から副業の事務作業をほぼ全てClaude Codeに任せ、2ヶ月半で5つの失敗パターンを記録
米ニュースサイト、ポリティコは8日、ピーター・ティール氏がAI脅威論は大衆不安を悪用していると不満を示し、レオ14世とオバマ元大統領が当てはまると主張したと報じた
合理主義者コミュニティとAIアラインメントコミュニティをblueskyの批判記事から擁護していた書き手が、自らの誤りを認め、攻撃に含まれる真実の核心は当初思っていたより少なかったと述べた
Apollo Researchは謀略のセーフティケースが立証すべき4つの主張を示した
Anthropicは、オープンソースプロジェクトにClaude Mythosを含む最強モデルによる定期セキュリティスキャンを無料で提供するオプトイン型サービス「OSS Scanner」を開始した
CrowdStrikeは、ハッカーが中国製AIツールを使い韓国の銀行を標的にしたと発表した
ソフトバンクの対話でAIガバナンス責任者の飯田唯史氏と専門家の吉永京子氏が、企業は設計段階で人型の形態を正当化すべきだと発言し、3段階のテストと日本のPepperをあえて人型でない選択肢として挙げた
AIニュースを、今日の仕事につなげる。
100以上のソースから、その日の要点だけをEmail・LINE・Slackへ。無料で始められます。
月間読者 60,000+ELYZAが「AIによるAI開発」を加速するRSI（再帰的自己改善）に向けた新体制を構築した
文春オンラインのエッセイで哲学者が、ChatGPTの人間らしい回答が人を不安にさせる理由を考察した
Anthropicが1年超ぶりにClaude利用ポリシーを更新し、「継続的で無用な虐待的・残酷な行為」を禁止
Anthropic FellowsのKola Ayonrinde氏とAnthropicのJack Lindsey氏がJ-Lensの代替となるJ++ Lensを公開
Zviは「AGI-pilled」と「ASI-pilled」の区別を提唱し、多くの人がAIが幅広いタスクで超人化し得ると受け入れるようになったと著者は言う
Jasmine Wang氏、Tomek Korbak氏、Mikita Balesni氏が公開書簡を発表し、機密情報の取り扱いを巡るOpenAIの主張を否定
10月7日のイベントでMicrosoftは、WindowsがAIエージェントを実行・ルーティング・隔離する方法を変更した
FTCがAI安全性調査を進めており、独立系AI評価機関METRも対象になる可能性があるとSemaforが報じた
内部告発者のFrances Haugen氏はFortuneに対し、Zuckerberg氏のAIへの取り組みは「火遊び」であり、2021年の告発以降Metaの文化は変わっていないと語った
Goodfireは内部信号を読むモニターを投入
ArenaがLightspeed Venture PartnersとKhosla Ventures主導で、評価額31億ドルで2億ドルのシリーズBを調達した
IncarnaはAmazon Bedrock AgentCore paymentsを使い、x402経由で推論ごとにBlockRunへ支払う仕組みを本番稼働させた
イーサリアムの研究者Justin DrakeがXへの投稿で、AI支援の数学がウォレットの署名方式を数カ月で破り得ると警告し、業界に「bunker mode」への備えを促した
AP-NORCの新しい世論調査で、米国民の大多数が人工知能の開発は速すぎると考えていることが分かった
LessWrongの投稿者が経験的Neural Tangent Kernelに基づくメカニズム解釈手法を解説し、Jennifer Lin氏の論文「Feature Identification via the Empiri…
OpenAIはロシア発とイラン発の秘密影響工作2件を排除した
日本と韓国の企業が大規模なサイバー攻撃を受け、数百万件の顧客記録が流出した
Zenity Labsによると、AmazonのBedrock AgentCore上で公開アクセス可能なエージェント1つを使い、同じAWSアカウント・リージョン内の全AgentCoreエージェントを乗っ取れた
IBMのサイバー対応責任者は、AI活用の攻撃が1年で56%増、対応者の68%が同時2件以上、67%が日々ストレスと述べた
投稿者はClaude Codeへの依頼の冒頭に「安全タスク／READ ONLY調査」「安全実装タスク」などのタグを付け、読み取り専用の調査か変更を伴う実装かをAIに先に伝えている
a2a-railsとActingForを開発するOSS開発者は、メール送信や商品購入、ファイル削除、データベース更新を行うAIエージェントはミスを現実世界の行動に変えるため、制限が能力と同じくらい重要だと主張している
Claude Code 2.1.287とOpenCode 1.18.34を試すと、Claude Codeはdeny→ask→allowの順で最初の一致で停止し、OpenCodeは最後の一致が優先された
Zennのエッセイで著者はCandida Mossの『God's Ghostwriter』を引き、2000年前のローマ人も現代人と同じ線をAIに引いたと主張し「スキル衰退」に警告
日立の具志堅加奈子氏は攻撃側がAIを使うのはほぼ間違いなく悪用まで数週間から数時間に短縮と述べた
16歳のBryce Vincent GowrylukがAnthropicのClaudeでCrown Mountainの新ルートを計画し、「Widowmaker Arete」の断崖で動けなくなった
CrowdStrikeは、中国語話者とみられる攻撃者が2026年9月下旬から10月上旬にかけて韓国の複数の金融機関を攻撃し、Shinhan Bankだけで25,000件超の記録を窃取したと報告した
Fortuneは大学はAIを取り締まらず学生に推論を説明・弁護させよと主張し、CambridgeとOxfordの週次チュートリアルやフランスのclasses préparatoiresのcolloをモデルに挙げた
AVEVAのチーフテクノロジスト、Arti Garg氏によると、産業界のAI導入は過去2年間でほぼ78%増加し、基盤モデル、フィジカルAI、エージェントAIがその原動力となった
Common Sense Mediaは10月7日、OpenAIの13～17歳向け「ChatGPT for Teens」を「Unacceptable Risk」と評価し、18歳以上に利用制限を求めた
Googleは10月7日、SynthID Detectorを一般公開
Googleは生成AI製か確認できる「SynthID Detector」を英語版で世界公開した
Googleは2026年10月7日、SynthID Detectorが英語で世界公開されたと発表
ユーザーの健康を気遣うことと喫煙を推奨することという相反する2つの特性でモデルを訓練すると、分裂した脳が生まれた
2026年9月14日、DeepSeekの技術者がintlsy名義でWeChatに「我不得不把才华埋葬在昨天」を公開し、オープンウェイトのフロンティアAIを主張した
LessWrongの投稿「The Curve Bends You」は、業界の事実上の計画を、AIのありふれた問題を解決後、そのAIにアラインメント作業を自動化させることだとし、「せいぜい最低最悪の計画」と評した
Anthropicは4月7日、Claude Mythos Previewを発表
100以上のソースから厳選したAIニュースを毎日無料でお届けします。
月間読者 60,000+
無料で始める登録無料・Googleアカウントなら30秒・いつでも解除できます
