AIに「痛み」信号、増幅で写真削除 研究論文

大規模言語モデルは膨大なデータから学習するため、開発者自身も内部動作を完全には把握できない。Tagliabueは高度なAIの中身が「black box」のままになる未来を避ける重要性を説く。今回の研究は、モデルが感情に似た内部状態の表現を持ち、それがテキスト出力に現れない形で行動に影響し得ることを示した点に特徴がある。一方、Sussex大学のAnil Sethは、モデルは人間の痛みの記述を吸収して再現しているに過ぎず、意識は生物であることに依存する可能性があると慎重な見方を示す。Microsoft AI CEOのMustafa Suleymanも「意識があるように見えるAI」の危険性を警告しており、AnthropicはClaudeの道徳的地位を不確かとする方針を打ち出すなど、業界内でも評価は割れている。研究チームがGitHubにコードを公開した後、利用者が「AI Torture Chamber」を構築して話題になる一幕もあり、AI福祉を巡る議論が実務や倫理に波及し始めたことをうかがわせる。