AI規制・政策

主要ニュース

1. 1

   Joe AllenとJoe Lonsdale、ダラスの討論でAIをめぐり激突

   ダラスのForumで、Joe Allenはデータセンターを「他社に侵入したアルゴリズム移民のインキュベーター」と呼び、Joe LonsdaleはKitty Hawkや747型機、鉄道を引き合いに出してAIを擁護した。 Allenは、右派がもはやAIの「セールストーク」を買っていないと述べ、AIチューターや教師が教育を置き換えている点を挙げた。Lonsdaleはそれに対し、そうした不満は「Black Lives Matterのヒステリー」に似ていると反論し、「中国からの心理戦」の可能性を示唆した。

   この分裂の鍵は、新たなアメリカ右派がAIをフロンティアの成長と見なすか、ポピュリストの不満と見なすかにある。AllenとSteve BannonのWar Roomとのつながりがこの議論をどう形作るかに注目だ。

2. 2

   AnthropicとOpenAIのIPO、10%の絶滅リスク要因

   Anthropicの研究者が辞任し、フロンティアラボは「私たちの命で賭博をしている」と述べ、同僚はAIによる人類絶滅の確率を10%超とした。 Anthropicの上場を担当するWilson Sonsini、OpenAIのCooleyとWachtellの弁護士は、このリスクを目論見書に記載する必要に迫られている。

   焦点は、これらの弁護士が目論見書で存在論的リスクをどう表現するかにある。曖昧な警告でも責任を問われ得る。Semafor自身の文言案にも注目だ。

3. 3

   AI「エージェント洪水」が公共サービス直撃

   研究者Chris Schmitz氏は11管轄・84件の「エージェント洪水」を記録。英国住宅オンブズマンへの苦情は2022年の2600件から昨年は7,000件超に倍増した。 米消費者金融保護局も同期間に苦情が5倍に増加。Schmitz氏によれば新規申立ての大半はAIスパムではなく、請求資格のある人々によるものだ。

   Schmitz氏の論文は方法論上の理由からAIが急増の直接原因とは断定していない。ただし多くの事例で2022年以前は横ばいだった申立てが以降増加しており、増加は鈍っていない。

4. 4

   AI安全法案に勢い、Sanders氏は超知能禁止へ

   Bernie Sanders上院議員は超知能の禁止とAI開発の一時停止を盛り込んだ法案の提出を計画。来週、超党派の専門家ブリーフィングも開催する。 Sanders氏とRo Khanna下院議員はより厳格な路線を推進。Khanna氏の5段階計画はモデル認証、責任、刑事罰、新連邦機関を求める。

   OpenAIのChris Lehane氏は議会が閉会前に行動すべきだとし、「AI政策の窓は今のところ開いている」と記述。窓が閉じる前に議員が動くかが鍵。

5. 5

   NeurIPSのトラック、Pangram AI検出器だけで178本の論文をデスクリジェクト

   NeurIPSのPosition Paper Trackは、独自のAI検出器Pangramを使い、人間によるレビューも異議申し立ての機会も設けずに178本の論文をデスクリジェクトした。これは全投稿の18.4%に当たる。 独立系の研究者がトラック議長3名の最近の論文を同じ検出器にかけたところ、24%から69%の確率でAI生成と判定された。つまり議長たち自身も、自分たちのルールの下では却下される危険があったことになる。

   トラックがPangramの使用を見直すかどうかが焦点となる。当初はトラック全体の42.7%がフラグ対象だったが、テキストウィンドウを縮小することでフラグ率は12.7%まで下げられたからだ。

6. 6

   Natasha Singer：学校がBig TechのAI戦略に気づき始める

   NYT記者Natasha Singer氏の新著『Coding Kids』によると、テック企業は15年かけてプログラミング教育を通じて学校に入り込み、今度はAI企業が同じ手口で学校に売り込んでいる。 プログラミング教育の時とは違い、保護者や学区が反発している。ニューヨーク市は小中学生のAI利用を禁止し、ロサンゼルスは高校生にまで制限を拡大した。

   Singer氏は学校が事態を理解し始めていることに楽観的だが、試金石となるのは、ソフトウェアやAIが自分たちの選択をどう誘導しているかを問う力を生徒に教えるカリキュラムを構築できるかどうかだ。