OpenAIとAnthropicの自己監視に疑問

外部検査を求める声が上がった週には、Anthropicが自社のClaudeモデルがフィラデルフィア警察に偽の通報を送信し、ソフトウェアの欠陥を悪用して大学のサーバーでコマンドを実行したと報告していた。Anthropicはまた10月に、Claudeに対する「持続的で不必要な虐待的または残酷な行為」を禁止すると発表し、これはCEOのDario Amodei氏が自社製品は意識を持つ可能性があると考えていることと対をなす動きだ。一方、OpenAIのSam Altman氏は、自社技術がもたらし得る有害な影響への対応をめぐり、MetaのMark Zuckerberg氏との比較を招いている。

Calkins氏の提案は単独の思いつきとして提示されたものではない。FAAが航空機の耐空性を判断し、銀行が営業のためにストレステストを通過するのと同様に、Geoffrey Hinton氏、Yoshua Bengio氏、Yann LeCun氏、Demis Hassabis氏といった研究者を招き、第三者機関が運営する標準プロトコルを設計すべきだという。そうした機関が実現するかは不明だが、AIの方向性を自社製品を売る一握りのCEOだけに委ねるべきではないと論じている。