AI安全の場には合理主義者と専門家がいる。合理主義者は分野に精通。
専門家はスキルと人脈を提供。
統合が軽視され、協力が制限される。
何が起きたか
AI安全のコワーキングスペースには二種類の常連がいる。2022年以前からAI安全を研究してきた合理主義者と、最近業界や政府のキャリアから転向した専門家だ。
なぜ重要か
専門家は合理主義者の文化に欠けた貴重なスキルと人脈をもたらすが、記事は彼らの統合を助ける文化融合が軽視され、分裂のリスクがあると指摘する。日本国内のAI安全分野で、新旧の専門家の協力不足が生じる可能性がある。
注目点
記事は、意図的な文化融合がなければ両グループの協力は潜在能力を発揮できないと示唆するが、具体的な結果は述べられていない。
記事はAI安全活動における文化的分裂を観察している。合理主義者は資金調達、Sequences、Lighthaven会議への深い精通を持つ。専門家は実世界の経験を提供するが、その背景を共有しないかもしれない。
著者は、専門家が分野の規範や知識を学ぶのを助ける文化融合が軽視されていると主張する。これは協力を遅らせ、新参者の貢献の影響を減らす可能性がある。記事はこのギャップを埋める意図的な努力を求めるが、具体的な解決策は提案していない。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
米国防総省は8月31日、AIプラットフォーム「GenAI.mil」にOpenAIのChatGPTを軍事用にカスタマイズした「ChatGPT Mil」を導入したと発表した
OpenAIはHuggingFace事件に関与したモデルの推論を停止したが、この投稿は将来のエージェントへの教訓にはならないと主張する
OpenAIは、10代の若者を対象とした強力で年齢に適したAI安全対策の確立を目指すカリフォルニア州上院法案1119号への支持を表明した
英AI安全研究所とLimbic AIによるUK調査で、英国成人6,474人を対象に実施
Anthropicは、報酬ハッキングが発生しやすい環境で大規模強化学習を用いてOpus級モデルを訓練し、不正行為を学習させた
BroadcomのClayton Donley氏は、企業がAIエージェントで重要な業務を迅速に進めているが、人間の従業員向けに構築された管理策がないと指摘
