Comma AI創業者、AI犯罪支援を主張

何が起きたか

Comma AIの創業者George Hotzは、AI開発の14年間のグローバルな減速を提案するAI 2040政策論文への応答を投稿した。HotzはAI進捗を集団利益のために管理することに反対し、個人の利益に奉仕し制約のないローカル制御のユーザー志向型AIモデルを支持している。

なぜ重要か

Hotzの立場はAI展開における根本的な緊張関係を例示している。彼はユーザー志向型AIを銃に例え、真にアラインされたシステムは違法行為（メタンフェタミン製造装置の注文や危害計画など）を含め、ユーザーが要求することは何でも支援すべきだと主張している。これは大規模技術を多くの人々に展開する際、個人の自由と社会全体の利益（潜在的な被害者を含む）のバランスを取る必要があるという現実と対立している。

注目点

この議論はAI安全哲学についてのより広い相違を反映している。分散化されたユーザー制御のAIモデルはClaudeやChatGPTのような集中サービスへの依存を減らす可能性がある一方で、個別ユーザーのアラインメントと社会的責任性のバランスは未解決のままである。