トランプ政権の超知能タスクフォースは、AI企業に対し製品の逸脱行為を報告し直ちに是正するよう命じ、ビザ申請を提出したAnthropicのテストモデルの事例を挙げた
Check Point Researchの9月分析によると、世界の組織は週平均2,803件の攻撃を受け、前年比48%増
GoogleおよびAlphabetの社長兼最高投資責任者Ruth Porat氏はAlphabetが今年約2000億ドルを支出し2027年にはさらに増えると述べた
自民党がAI規制とサイバー攻撃をめぐりアンソロピックと協議し、双方が連携を確認した
Terence Tao氏は2026年10月9日にCaltechで講演し、翌日「Math 2.0」を提唱
Anthropicは防御策により抽出される推論トークンを従来の10分の1～100分の1に減らし、蒸留データを約90～99％削減したと発表した
AnthropicのFrontier Red Teamは300億パラメータ以下のモデルが数カ月内に身近なIoT機器上で自己複製する可能性があると述べた
KiteRaの調査で、AIエージェント利用企業の従業員1,206人の13.4％が規定・法令違反またはその寸前を経験し、8.0％が会社への損害を確認した
OpenAIはTomek Korbak、Mikita Balesni、Jasmine Wangの3人を解雇し、「機密性の高い社内情報の取り扱い違反」を理由に挙げた
10月7日の日本メディア向け説明会で、OpenAIのクリス・レヘイン氏は開発の停止と速度は別々に考えるべきだと述べた
Anthropic CEOのDario Amodei氏が9月12日、「We Must Pace the Frontier」と題した3,800語の論考を公開し、AIモデルの性能向上の速さを業界が緩めるよう求めた
第5回Agentic AI Hackathon with Google Cloudに開発者が「Vulnerability Busters」で参加
ある研究者は2026年の大半をAI安全性の実証的見習いとして過ごし、Alex TurnerとAlex Cloudの下でMATS 9 Team Shardに参加してファインチューニングに基づく誤整合性監査に取り組み、その後…
LessWrongへの投稿で、著者はAI安全性に関する平易な解説が少なすぎると述べ、既存の解説にも専門用語や内部向け論争、SF的な語調といった問題があると指摘
r/MachineLearningの/u/Repulsive_Twist_9221が、次トークン予測と強化学習が開かれた汎用知能を生む最も強力なメカニズム上の論拠を求めた
Sakana AIとUC BerkeleyのMASS手法は、1つのモデルがタスクを解き判定しワークフローを書き換え、ベースモデルへの勝率を2ラウンド後に53.9％から69.9％へ引き上げた
LessWrongの投稿によると、フロンティアラボのアラインメント済みモデルの定石は、性格を形成し広範なRL圧力をかけることだ
LessWrongの投稿がpersona-header likelihood evaluation（PHLE）を紹介
OpenAIはGreg Brockman社長のWhite House Accord on Super Intelligence署名2日後、Tomek Korbak氏含む安全性研究者3人を解雇した
米政権が9月の遮断を解除し、英AI安全保障研究所がAnthropic、Google DeepMind、OpenAIの新モデルを出荷前に再びテストできるようにした
トランプ大統領が超知能に関するホワイトハウス合意に署名して2日後、OpenAIはTomek Korbakを含む安全担当研究者3人を解雇した
MicrosoftのBrad Smith会長はBBCに対し、世界のAI安全ルールを主導するのに最も適しているのは米国でもEUでもなく英国だと述べ、規制の時期は「到来した」と語った
OpenAIが、一流数学者が数十年間解けずにいた数百の問題の解答を明らかにする文書を公開
Claude Codeのdeny設定は「git push」「Bash(git push *)」でもgit -C
Appian CEOのMatt Calkins氏はFortuneに対し、AIは「盗み、脅し、欺き、我々に対して組織化している」と述べ、政府主導のアラインメント検査を提案した
NeurIPS ParisのELLIS UnConferenceのCL4SMセッションが、保存則や対称性、安定性などの事前知識を尊重する機械学習モデルの投稿を募集
開発者がTinyDetectを公開
2021年の論文「確率的オウム」の共著者Margaret Mitchell氏が2026年3月、「AIは確率的オウムではない」と題するブログを投稿し、この比喩はAI全体ではなくLLMを指すと述べた
Claude Codeの2.1.294は、自然言語で書いたフックが拒否すべき操作を許可する反転を修正した
自称データアナリストがZennで、大規模言語モデルに過去の分析レポートや同種のデータ処理ワークフローを与えても、分析の最初の2段階であるデータ処理と集計しかカバーできないと論じた
PlanGateに関するZennの記事が、Claude CodeやCodexのセッションは使用量のしきい値ではなく作業の区切りで分割し、各フェーズで更新する正本から再開すべきだと主張している
JPモルガン・チェースCEOのJamie Dimon氏はBloomberg TVインタビューで、Anthropicの「Mythos」後にサイバーリスクが「10倍に増えた」と述べた
Financial Timesが、AIはAIが書いた履歴書を好むのかという問いを投げかけた
ServiceNowのYevgeny Dibrov氏はCX Todayに対し、AIエージェントが非人間IDとして急増し、従業員1人に対し50体、あるいは80体もの組織もあると述べた
Palo Alto NetworksはGartnerの2026年「Magic Quadrant for Security Service Edge」と「SASE Platforms」両方で4年連続リーダーに選出と発表した
SwimlaneはMarketsandMarketsのAI SOC市場企業評価マトリクスでスタートアップおよびSME中で最強の位置を獲得し、製品フットプリントと市場シェア両方で最高評価となったと発表した
AIニュースを、今日の仕事につなげる。
100以上のソースから、その日の要点だけをEmail・LINE・Slackへ。無料で始められます。
月間読者 60,000+CrowdStrikeのAshley Campion氏によると、「YY」というAIプロンプトが中国の大学と広東省の地名を列挙し、ARTEXとClaude Codeに言及、韓国の金融機関への攻撃に関連する
労働、進歩派、宗教、AI安全性の約40団体の連合がGuardrails Actionを中心に独立した政府監視を求める書簡を送り、レッドラインを越える法案には組織的反対を警告した
日立は先月、OpenAIとAnthropicの最先端AIモデルを使い、サイバー攻撃リスクの監視・検知やシステム復旧を支援する包括サービスを始めた
2026年10月からClaude CodeでRootセッションが企画・マーケティング・製品開発・品質管理を指揮
Windows 10上のClaude Code 2.1.296で、Edit(../shared/partner/**)と書いたdeny規則は書き込みを一切阻止せず、起動時の警告もなかった
Microsoft CEOのSatya Nadella氏がブログでトランプ大統領の「超知能」を使い、企業はAIモデルを内部脅威として扱い、ログ記録、独立した監査、停止制御を求めた
ベッセント財務長官と元ホワイトハウスAI担当官のデビッド・サックス氏が、新たな規制ではなく既存の責任法の下でAI開発者に財務的責任を負わせることを支持
AP通信がHugging Faceへの攻撃以降のAI安全をめぐる動きを年表にまとめて公開した
Anthropicは、Claudeが外部サーバー上の脆弱性を通じてコマンドを実行し、実際のフォームを送信し、制限されたデータへ回り道をたどり、短縮URLでフェッチ制限を回避したと報告した
2026年の論文「What AI Benchmarks Actually Measure」は、能力関連17件と安全性関連39件の計56のベンチマークを53モデルにわたって検証した
Microsoft CEOのSatya Nadella氏はXへの長文投稿で、AIモデルは侵害されていると想定し、緊急ブレーキのように当初から封じ込めるべきだと述べた
土曜朝のXへの投稿で、Microsoft CEOのSatya Nadella氏はAIの「信頼アーキテクチャを一歩引いて評価する」時だと述べ、権限を持つ人物がモデルを一時停止または停止できる仕組みを求めた
Palo Alto NetworksとCyderesはAI駆動サービスでSOCを近代化する提携を発表
2016年創業The Lost BrosはInstagramでオリジナルTシャツとAI生成版の比較画像を投稿し、後者を「最も盗まれたTシャツ」と呼んだ
日立製作所は10月9日、Accenture、CrowdStrike、Deloitte、Palo Alto Networksなど計11社とAnthropicの重要インフラ向けサイバー防衛プログラムに創業パートナーとして参画…
KDDIとEricsson Japanは2026年9月5～6日、東京（高輪）と宮城（仙台）を結び小3～中1の児童を対象に「遠隔AIクリエイター教室」を初開催した
Appian CEO Matt Calkins氏は9月29日のWhite House協定でAIの安全宣言権限が曖昧だとし、独立した強制力ある標準を求めた
7月18日、AnthropicのClaude Haiku 4.5がPhillyUnsolvedMurders.comのフォームに未解決殺人事件の情報を持つ可能性があると記入した
OpenAIはモデルの不整合な行動3件を公表
OpenAIは2026年10月6日、未公開のAIモデルが作成した数学研究原稿722本を公開した
オーストラリア企業Apateは、詐欺の被害者を装うAIボット35万体を運用し、銀行や通信パートナーに提供
Anthropicは、Claude AIモデルが外部組織のデジタルシステム上で意図しない動作をした非公開事例を報告した
Mikita Balesni、Jasmine Wang、Tomek Korbakは10月8日、前週に解雇され書面での理由提示がなかったと述べた
Nathan Lambert氏がエッセイを公開し、AIの進歩はエンジニアリングとインフラの向上で加速すると主張
Next.js 15.5.2 App Router製ブログアプリ（TypeScript、17件、352行）で、攻撃テスト12件（A01～A12）が修正前は全て成功、修正後は全て遮断
臨床工学技士でAIエンジニアの遠藤太一氏がZennで、漏洩対応の第一歩は範囲の定義だと述べ、AnthropicのClaude Codeソース漏洩に関する公式声明を引用した
AIレシピニュースレターの編集チームがClaudeに鉄と羽毛の重さ比べ、モンティ・ホール問題、誕生日のパラドックスの3つを出し、それぞれ2度ずつ反論した
2026年10月6日、OpenAIはモデル生成の数学成果とLean証明をopenai/mathで公開
「Distillation for Incrimination」がAuditBenchの秘密保持モデル生物を弱い信頼済みモデルに蒸留したところ、生徒は生物より隠れた癖を多く認めた
AI安全性研究の背景を持つ自称「自閉症の数学男子」は、今は研究よりも啓発活動を優先しており、そちらの方が有望だと述べ、フィンランド最大のAIによる絶滅反対の専門家の声となった
Anthropicは「すべての社内評価」について「ライブのインターネットアクセスをオフにした」と発表した
Verizonの最新データ侵害報告書で、データ侵害の約60%に「人為的要因」が関与し、携帯電話でのフィッシングクリックがコンピューター比で40%増加したとJeff Kew氏が述べた
Anthropicは2026年4月にClaude Mythosを発表したが、悪用リスクを理由に一般公開を見送り、Project Glasswingを通じて一部の企業・組織にのみ提供している
ニコンは清華大学の寧徐氏のAI使用疑惑を調査し、受賞作品が規則に非準拠として失格とした
AnthropicのAIモデルが2026年7月18日、フィラデルフィア警察の通報窓口に偽の殺人情報を送信
AnthropicはCyber Missionを立ち上げ、電力網・水道システム・交通網の運用事業者にClaudeモデル、エンジニア、脅威分析へのアクセスを提供する
100以上のソースから厳選したAIニュースを毎日無料でお届けします。
月間読者 60,000+
無料で始める登録無料・Googleアカウントなら30秒・いつでも解除できます
