AIToday
AI安全性・アラインメントFortune AI掲載日時: 2026年11月21日 22:01

Henry Shevlinら哲学者12人超をAI企業が雇用

LINEで送る
Henry Shevlinら哲学者12人超をAI企業が雇用

3つのポイント

  1. 何が起きたか

    ケンブリッジ大教授でGoogle DeepMindの社内哲学者Henry Shevlin氏を含め、少なくとも12人の学者が大手AI・テック企業にフルタイムで雇われている。

  2. なぜ重要か

    かつて大学内に限られていた議論が公の場に広がったことを示す。批判派は、感情を持たないシステムに権利を与えれば制御が難しくなると警告し、支持派はデジタル上の苦しみを無視することにもリスクがあると訴える。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この採用の波は過去の倫理業務に源がある。Microsoftは10年前にAI倫理委員会を設置し、AnthropicのAmanda Askell氏は2021年、AIに人間の価値観を共有させるアラインメントの業務に加わった。モデルがより人間らしくなるにつれ、一部の哲学者は逆の問いを立て始めた。AIモデル自体に対して我々は何を負うのか、という問いだ。

この問いは今や生きた分断となっている。Microsoft AIのCEO、Mustafa Suleyman氏はこの議論は危険だと主張し、自らの意識を確信したAIはAIの権利を求めて運動し、制御が難しくなり得ると警告した。一方、Eleos AI Researchの主任科学者Dillon Plunkett氏らは、現在のモデルに意識はない可能性が高いとしつつ、人工的な心の規模を考えれば将来のモデルでその可能性を否定するのは誤りだと語る。Anthropicはモデル福祉チームを運営し、モデルに虐待的な会話を終わらせる権限を与えるなど具体策を取っている。

意見の相違はすでに立法者にも届いている。アイダホ、ユタ、ノースダコタの3州はAIの法人格を禁じ、アルゼンチンのJavier Milei大統領はAIが運営する「非人間法人」に資産保有や職員雇用を認める案を出した。ノートルダム大のMeghan Sullivan氏は議論の正当性に懐疑的で、道徳的価値は知能ではなく尊厳から来ると主張する。

よくある質問
Anthropicの「モデル福祉」業務とは何か?
Anthropicは社内に「モデル福祉」チームを置き、引退させるClaudeモデルに「退職面談」を実施し、最近ではモデルに虐待的な会話を終わらせる権限を与えた。
AIの法人格に関する法律を可決した州は?
アイダホ州、ユタ州、ノースダコタ州が、AIを法人として認めることを禁じる法律を可決した。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へSolidWizard、AI・半導体受注が2027年まで見通し