
何が起きたか
動画会議スタートアップのMeetingTVが、Palo Alto Networksの傘下企業Koi Securityを訴訟。12月30日公開のブログで、LLM(文章を理解・生成するAI)が生成した脅威レポートがMeetingTVを中国のサイバー犯罪組織と誤って結びつけ、その後AIシステムが幻覚(実際にない情報を作り出す現象)を起こして事実として公開されたと主張しています。
なぜ重要か
この誤報をきっかけに、Verizonを含む世界中のセキュリティ企業がMeetingTVのドメインをマルウェアとして遮断。創業者のMichael Robertsonは「インターネットからブロックされることは企業の死刑宣告」と述べており、AIが重大な決定に使われる際に人間による検証なしで信頼される危険性を浮き彫りにしています。
注目点
レポートは実在しない「Twitter X Video Downloader」という拡張機能をキーの証拠として使用。Koi側はこのソフトウェアについて情報提供を拒否しており、ブログはその後、MeetingTVへの言及を静かに削除した形で編集されています。
こういう要約が、毎朝あなたのメールに届きます。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Amazonはウェアラブル個人AI「Bee Frontier」をOnyx、Lavender、Sageの3色で74.99ドルにて導入し、「Bee Eclipse」も99.99ドルから近日発売すると発表した

IBMのAparna Nair氏はAI時代にゼネラリストだけでは「やっていけない」と述べ「ゼネラリストの世界はとうに終わった」と語った

Humans Firstは金曜日、「America First AI Policy」を発表した

MicrosoftとNvidiaがローカルAI向け新Windows PC「RTX Spark」を推進

DellのArthur Lewis社長は「多くの場合、次の制約はモデルではなくデータだ」と述べ、AI Data Platformがその問題を解決すると説明した

AI関連株が、Anthropicの設備投資水準と増収鈍化への懸念から売り込まれた
