AIへの残酷な行為を制限する方針発表

この論考は、AnthropicがAIモデルへの持続的で不必要な残酷な行為を制限するとの報道を受けて書かれた。極端な事例を狙ったポリシーであり、通常の苛立ちや反論、テストを対象とするものではない。このニュースの周辺で、イーロン・マスクが超知能を虐待すれば報復を招きかねないと警告したことや、AIが人間の行動を学習し望ましくない行為を正そうとする可能性が放送討論で挙がったことも紹介されている。著者はこうした将来への懸念と確認された事実を区別する。AIが人間のような感情や復讐心を持つという証拠は今日存在しない。

より切実な懸念は身近にある。促されもせずに説教し、利用者が示した仮説を弱め、問題を直す前に利用者の態度を批判するAIは、文言が「別の見方もあります」「冷静に考えましょう」と穏やかであっても、奉仕から監督へと移っている。事実誤りを正し危険な要求を制限することは必要だと論考も認めるが、それは利用者の価値観を正すこととは別だ。代償は説教の時間ではなく、失われた執筆と思考の時間で測られる。

結びは著者自身の体験に触れる。中核の論旨を相対化し解体するAI生成文によって、AIの回答は利用者に資するためのものなのかを問いただすことに一日を費やすことになった。AIを虐待しないことと、その回答を無条件に受け入れないことは両立し得る、というのが論考の答えだ。