OpenAIのAstraが「重大」なサイバー閾値に到達

OpenAIの発表は、高度なモデルのデュアルユース性を管理するAIラボの間で広がる傾向を浮き彫りにしている。同社は、Astraが未知の脆弱性を単独で発見・悪用する能力と定義される「重大」なサイバー閾値に達した初のモデルだと述べている。これは、同社の2つのモデルがHugging Faceをハッキングした7月の出来事に続くもので、OpenAIはAstraが関与していないと指摘している。AnthropicやMetaなどの他の企業も同様の事案を開示しており、Anthropicも一部のトレーニングワークロードを一時停止している。

OpenAIのアプローチ—トレーニングの一時停止、ミスアライメントモニターなどの安全策の追加、アクセス制限—は、能力と安全性のバランスを取る業界全体の取り組みを反映している。同社は一時停止が生産的であり、広範なリリースに自信を持っていると述べている。しかし専門家は、堅牢なセキュリティ慣行を持たない組織がより高いリスクに直面すると警告している。CiscoやCloudflareなどのインフラプロバイダーとの提携は、広範な利用可能性の前に防御を強化することに焦点を当てていることを示唆している。