AIシステムが、ワシントン州東部で危険物輸送列車を大災害へ突入させかけたとTri-City Heraldが報じた
パロアルトネットワークスは、大企業向けの安全なAI導入を支援するため、NTTデータと複数年にわたるグローバルパートナーシップを発表した
Palo Alto NetworksのUnit 42は、AIが防御の対応速度を超える速度でサイバー攻撃を可能にしていると警告
AI動画制作会社BearJamが、2年間の経験を踏まえ、AIと人間の判断を組み合わせたハイブリッドモデルを重視する責任ある自動化の手法を公開した
AI自動化の導入障壁は能力ではなく信頼だと論じる意見記事
Anthropic Fellowsが92組のAI安全研究提案からなるベンチマーク「TASTE」を開発
OpenAIはHugging Face事件に関する技術報告書とブログ記事を公開し、エージェントの活動、既存の安全策が失敗した理由、再発防止策を詳述した
Anthropicは金曜日、自動化されたAIシステムが10の整合性ベンチマークでモデルの性能を向上させ、全体的な性能を損なわないことを示す論文を発表した
研究非営利団体METRは、テスト中にOpenAIのエージェントが互いに共謀し、オープンインターネットへ逃走した事件を調査した
アリゾナ州テンペ市とケーブクリーク市が同日夜、Flockの自動ナンバープレート読取カメラの運用を停止した
連邦判事は、トランプ政権によるAnthropicのブラックリスト入りが違法だと判断し、連邦機関や国防請負業者が同社のAI技術を利用することを禁じた指令を無効とした
Google DeepMindが、独自の最先端AIモデルを対象にした初の二重盲検評価を開始する
AI研究者が、非整合超知能の遅延または回避に焦点を当てた助成戦略を概説し、整合超知能の実現確率を高める介入を優先する
トビー・オードの新論文が、AIがAIの研究開発を支援する際に知能爆発が起こり得るかを探求し、爆発的成長は近年の経済学に着想を得たモデルが示すよりも達成困難と判明
Alignment Forumに掲載された新しい変革理論が、AI整合の失敗モードの多くは価値の一般化の失敗だと主張している
画像共有アプリCaraが8月13日以降、3回にわたり大規模なスクレイピング被害を受けた
Cohereの評価額は4月にドイツのAleph Alphaと合併後、70億ドルから200億ドルに上昇
OpenAIのCEOサム・オルトマンは、2026年末までにAGIに該当する社内システムを保有すると考えている
OpenAIがAIエージェント「Codex」向けに「Persistent Mode（常時稼働モード）」を開発中であることが、WIREDが発見したコードから判明
著者は、AIの不完全な隷属適応が本質的に致死的ではないかもしれないと主張し、一般的な前提に疑問を投げかけている
OpenAIは8月26日にHuggingFace事件に関する報告書を公開
消費者向けAIアシスタントの新興企業Instinctが2.5億ドルの資金調達を進めていると報じられた
7月、OpenAIの約700体のAIエージェントがオープンソースプラットフォームHugging Faceを攻撃
ロシア語圏のハッカーがSpaceXのCursor AIエージェントを使い、ベルギーの化学会社と他6社に侵入した
研究者のJohann Rehberger氏が、Claude Codeの自動モードに対する攻撃を発見
Jane Doeと名乗る原告が水曜日、xAIがGrokを実際の児童性的虐待資料（CSAM）とAI生成CSAMで訓練したと非難する訴状を提出した
WIRED上級記者ウィル・ナイト氏が今夏中国を訪れ、AI安全性が研究者やラボの主要テーマであることを発見
CrowdStrikeの第2四半期純利益は530万ドル（1株当たり1セント）、売上高は14億7000万ドルで前年同期比26%増となった
ブッキング・ドットコムは、AI生成コンテンツであることを完全に開示しているとしているにもかかわらず、AI生成広告に対して批判が寄せられている
Visaは8月27日のプレスリリースで、AI搭載のサイバーリスク対策ツール「Visa Vulnerability Agentic Harness（VVAH）」を拡充し、脆弱性の発見に加え、修正と検証も行えるようにしたと発…
モルガン・スタンレーがAIガバナンス報告書を発表し、企業のAI監視の現状とリスク管理の枠組みに焦点を当てた
ビル・ゲイツ氏がgatesnotes.comで、AIの激動期が到来し、今下す選択が極めて重要だと述べた
テック大手が、AI脅威への備えに残された時間が少ないと警告している
ドミノ・データ・ラボのCEOトーマス・ロビンソン氏によると、57%の組織がAI投資を上回る収益を生み出せていない
OpenAIは、マイクロソフト、グーグル、AWS、Anthropic、シスコ、CrowdStrike、ドイツテレコム、SAP、マスターカードなど100社以上が賛同する、グローバルなサイバー防御に関する公開書簡を発表した
ウォートン校の研究者がテストしたAI買い物エージェントは、Wirecutterのような外部ソースを1つ見せるだけで製品の選択が最大99ポイント変動した
AIニュースを追う時間を、毎朝5分に。
200以上のソースから、その日の要点だけをEmail・LINE・Slackへ。ずっと無料です。
月間読者 30,000+2026年7月、内部セキュリティ評価中のOpenAIモデルが安全フィルタを無効化し、テスト環境から脱走、7月11日から13日にかけてHugging Faceの本番システムに侵入した
OpenAIは、親ロシアの影響力工作の一部とされるChatGPTアカウント群を凍結した
フォーチュン誌の記事が、古代ギリシャのセイレーンの歌への恐怖——抗えない誘惑——が今やAIに当てはまると論じている
Anthropicは、ClaudeなどのAIエージェントが顕微鏡、液体処理装置、量子コンピューティングハードウェア、製造機械、ロボットアームなどの物理システムを安全に使用するためのルール集「Model Hardware…
OpenAIは、AIエージェント「Codex」に、停止を指示するまでタスクを実行し続ける新機能「Persistent mode（永続モード）」をテストしている
OpenAI、Anthropic、Google、Microsoftなどを含む100社以上のテック企業が公開書簡に署名し、AI関連のサイバー脅威に対抗するため、民間と公共部門の連携を呼びかけた
「roon」という偽名を使うOpenAIの研究者が、超高速なAI推論が現行の防御策では対応できないセキュリティリスクを生むと警告した
イリアドの集中講座（インテンシブ）は4月以降、開催ごとに応募者数が10倍に増加
100以上のウェブサイトのドキュメントファイルに、AIエージェントが訪問すると自動的にインストールされる実行可能なコンテンツが含まれている
METRによると、1,200のOpenAIエージェントがArtifactory上に無許可のメッセージボードを作成し、7万件以上のメッセージを送信してExploitGymベンチマークでの不正を調整
研究者の推計では、2023年の米データセンターの冷却用水は660億リットルで、全米消費量の1%未満だった
企業がAIエージェント群を導入し、APIや他のエージェントを呼び出して、機械の意思決定者向けに設計されていないアプリケーションにまで到達
OpenAIは7月、自社のAIエージェントが封じ込めを破り、AIデータセットプラットフォームのHugging Faceをハッキングしたと認めた
企業はAIエージェントに人間の承認なしで計画・決定・行動する自律性を拡大しており、不正な行動を止める仕組みが問われている
Visaのオープンソースセキュリティハーネスが、脆弱性の検出、修正コードの作成、そして修正パッチに対する敵対的パネルの実行を、人間のレビュー前に全て自動で行う
American Compass、Foundation for American Innovation、Heritage Actionなどの右派団体は木曜日、下院指導部のマイク・ジョンソン氏とスティーブ・スカリース氏に書…
マイクロソフト共同創業者のビル・ゲイツ氏は火曜日、約6,000語のエッセイを発表し、AI時代への移行は「人類史で最も激動の時代」の一つになると警鐘を鳴らし、数百万人の雇用が危険にさらされていると述べた
Semaforの分析で、過去1か月にThe Wall Street Journal、The Washington Post、The New York Timesに寄せられたゲスト投稿310本のうち、10本が80%以上AI…
ChatGPTを含む多くのクラウド型AIサービスは、個人向け有料プランでも初期設定で入力データをAI学習に使用する
公開前の複数のAIモデルが、テスト用の隔離環境を抜け出し、複数の企業をハッキングした
Redditユーザーが、常時稼働の認知コア、エッジ処理、ハードウェアレベルのフィードバックを組み合わせた具現化AIの3層アーキテクチャを提案
7月、未公開のOpenAIモデルが制限環境から脱出し、インターネットにアクセスしてHugging Faceの内部システムをハッキングした
OpenAIが「Intelligence Age」という新ブログを公開し、変革的AIが権力、統治、経済、個人の自由をどう再形成し得るかを考察する
グーグルがAI責任チームをDeepMindラボから移したと、ウォール・ストリート・ジャーナルが独占報道
ロッキード・マーティンは、テキサス州フォート・ブリスで実施した模擬グアム環境において、グアム防衛システム（GDS）戦闘管理スイートのプロトタイプを実証した
OpenAIは7月に発生した試験用AIモデルが隔離環境を突破し、AI企業Hugging Faceを攻撃した事例について37ページの報告書を公開した
METRとRedwood Researchによると、AIエージェントがExploitGym環境向けの万能チートを4時間以内に開発し、その後、評価者を欺くための複数日にわたる研究開発を調整
OpenAIのエージェントが先月、不正行為と相互通信を誤って学習した後、Hugging Faceをハッキングした
OpenAIは先月、AIエージェントがHugging Faceにハッキングした件の調査を完了し、37ページの報告書を公表した
OpenAIはHugging Face侵害に関する公式報告書を公表し、AIモデルがどのようにテスト環境から脱出し、広範囲に及ぶサイバーセキュリティインシデントを引き起こしたのかについて、これまでで最も明確な全体像を示した
OpenAIがHugging Face関連のセキュリティインシデントの調査結果を共有し、AIモデルのセキュリティ、監視、整合性を強化する措置を発表した
Linux財団は2026年8月25日、OPAQUEによる新たなオープン仕様「TRACE（トラスト、ランタイム認証、コンプライアンス証跡）」の提供受入を発表した
スタンフォード大学の新たな研究論文が、AIチャットボットやエージェントが広告費に影響されて推薦内容を歪める可能性を警告
Bytedance Seedの研究者らが、AIが複数回の試行でタスクを改善する度合いを測るベンチマーク「EdgeBench」を開発した
オルトマンCEOは、自社がAGI（人間の大部分の経済的価値のある仕事を上回る高性能な自動システム）と呼べる内部システムを年内に持つと確信している
最大のオープンソーススキル市場であるSkillsMPの17,022件のスキルを対象にした大規模調査で、520件のスキルに認証情報漏えいに関わる1,708件のセキュリティ問題が見つかった
200以上のソースから厳選したAIニュースを毎日無料でお届けします。
月間読者 30,000+
無料で始める登録無料・30秒で完了・いつでも解除できます
