Anthropic のAI安全性重視は権力分散の現実を見落としていると批評家が指摘

このエッセイは Langdon Winner の1980年の論文『Do Artifacts Have Politics?』に基づき、技術が政治的規範を組み込み強制することを論じており、著者はこのフレームワークを Anthropic のAIに関する構造分析に異議を唱えるのに適用している。Anthropic はAIが本質的に集中化的だと見なしており（資本要件、サーバーベースの推論、小規模チームによる設計選択、トークンの希少価格により発展途上国を排除），著者は対抗する力を特定している。それはコンテンツモデレーションの崩壊だ。

著者の中心的主張は、AIが検出不可能な自動コンテンツを生成する能力により、従来のゲートキーピングが不可能になったというものだ。CAPTCHA はもはや人間と機械を区別できず、AIをフィルタリングするのに十分難しいものはすべて正当なユーザーもブロックしてしまう。このコントロール不可能なボットスパムの蔓延により、ウェブサイトがオフラインを強いられ、権力は機関から自動化ツールを展開できる個人へ移行した。この読み方では、Anthropic のオープンソースモデル規制への焦点は実際の問題と一致していないように見える。

批評はまた Anthropic の立場における構造的緊張を強調している。同社はフロンティアAIを管理しアクセスを制限するビジネスモデルに依存しながらも、市場力がトークンをできるだけ広く利用可能にするよう推し進める。著者は、この矛盾（加えて Claude が Anthropic が防止を謳う悪用を既に可能にしているという事実）により、同社のオープンソース規制推進は本当の安全性懸念ではなく競争上の優位に動機付けられているように見えると示唆している。このエッセイは AIに集中化的な機能がないと主張していないが、ボットスパムと自動化された悪用を通じた分散化が今日AIが機関と個人に実際に影響を与える方法を形作る支配的な力だと主張している。