Hugging Face幹部がオープンAIの脆弱性を警告

Solaiman氏が挙げた事例には共通点がある。オープンプラットフォームを有用にする特徴が、そのまま攻撃者に悪用されるのだ。Hugging Faceの評価データセットはOpenAIのエージェント群を引き寄せ、10月はOpenCodeの第三者APIキーが狙われた。AIインフラ新興企業Fireworksは月曜日、攻撃者が一部顧客のモデル重み、データセット、請求情報にアクセスしたと公表し、コミュニティ貢献を前提としないプラットフォームでも貴重なデータが集中することを示した。Solaiman氏の懸念は、こうした侵害への対応が参加者を狭めかねないという点だ。NvidiaのJensen Huang氏のような人物がオープンモデルを支持し、政府や企業、新興企業が依存を深める中でなおさらである。GitHubは対照的な例を示す。エンジニアのZach Steindler氏は、セキュリティ作業は機能を制限することではなく、安全でなかった部分を修正することだと述べ、npmレジストリの要件厳格化やOpenJSと協力したより安全な手法への取り組みを挙げた。Hugging Faceもこの道を進もうとしているが、Solaiman氏は監視の維持にはコストがかかり、すべてのプラットフォームが負担できるわけではないと指摘する。小規模コミュニティは厳しい選択を迫られるかもしれない。