AIToday
大規模言語モデルAI安全性・アラインメントAI Weekly掲載日時: 2026年11月9日 22:00

TencentのAI科学者が危害閾値接近と警告

LINEで送る
TencentのAI科学者が危害閾値接近と警告

3つのポイント

  1. 何が起きたか

    香港のシンポジウムで、Tencentの最高AI科学者Yao Shunyu氏(29)は、AIのサイバー能力、そして間もなく生物学的能力が、危害を及ぼし得る閾値に達すると述べた。

  2. なぜ重要か

    Yao氏は生物学リスクはサイバーリスクより管理が難しい可能性があるとし、オープンウェイトモデルを公開するラボに安全対策を真剣に取るよう促した。

誰に効くかオープンウェイト公開を検討する政策立案者やAIラボの安全チームは、生物学関連の悪用はサイバー悪用より封じ込めが難しい可能性があるという名指しの警告に直面する。Yao氏が対象としたのは中国のオープンウェイトモデル開発者だ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

昨年OpenAIで1年過ごした後Tencentに入社したYao Shunyu氏は、香港のシンポジウムでAI安全を遠い懸念ではなく能力の閾値として位置づけた。生物学リスクはサイバーリスクより管理が難しい可能性があるという主張は、オープンウェイト論争に具体的な懸念を加える。一度ウェイトが公開されれば安全管理の徹底は難しくなるが、オープンウェイトは防御側を装備させることもできる。

同氏はAnthropicが先端モデルをプロプライエタリに保つ根拠を認めつつ、混合アプローチの方がうまく機能する可能性があると主張した。米国のクローズドモデルがガードレールを理由にタスクを断った後、Hugging Faceがサイバーセキュリティ向けに中国のオープンモデルに手を伸ばした事例を挙げ、オープンウェイトが防御ニーズに応えられることを示した。

Tencent自身の公開計画は、その主張を近く試すことになる。同社はHy4の学習データから攻撃的ハッキング資料を除外しつつ防御的セキュリティ内容は保持したと述べ、社内レビューでは基礎生物学の知識は強いが実験設計の性能は弱いことが分かった。今後公開されるウェイトと安全テスト報告書は、これらの選択がどう文書化されているかを示すだろう。

よくある質問
Yao Shunyu氏は生物学リスクとサイバーリスクについて何と述べたか?
生物学リスクはサイバーリスクより管理が難しい可能性があると述べ、オープンウェイトモデルを公開する中国企業に安全対策を真剣に取るよう促した。
Tencentはまもなく何を公開するのか?
Tencentは11月4日に発表した主力モデルHy4のウェイトと安全テスト報告書を今後数日以内に公開する予定だ。
TencentはHy4の学習データと安全テストについて何と述べたか?
Tencentは攻撃的なハッキング資料を学習データから除外し、防御的なセキュリティ内容は保持したと述べている。社内レビュー担当者は基礎生物学の知識は強いが、実験設計の性能は弱いと報告した。
LINEで送る

THE DECODERも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へ作家に執筆過程の記録ツール、AI疑惑に対抗