AIの安全性懸念増大も開発は全速力

今週の議論の中心にある問いは、AIが安全かどうかではなく、誰がそれを決めるのかということだ。Dave Vellante氏は最新のBreaking Analysisでこの問いを取り上げ、その答えは技術的というよりも手続き的なものだった。つまり、制御はモデル自体と同じ厳密さで開発されるべきだという。政策立案者にとって、それは結果を伴う独立した基準を意味すると同氏は主張する。企業にとっては、AI導入に対する権限は当然のものではなく、勝ち取るべきものだということを意味する。

この枠組みは、安全性への懸念が複数の方向から同時に噴出した週に登場した。制御不能なエージェントに関する事故、政府当局者からの規制要求、テック業界内部からの警告などだ。Vellante氏の結論は、それらの散在する懸念を整理する一つの方法を示している。制御を、後付けの保証の集合ではなく、能力と並行して進歩するエンジニアリング分野として扱うという考え方だ。

今週のニュースの本体も、この問いがなぜ簡単に解決しないかを示している。投資家はAI収益の成長に対してますます選別的になっており、金利の上昇に伴い資本が拡大のブレーキになりつつあり、NvidiaからMetaまで各社はオープンウェイトのものを含む新モデルを依然として投入し続けている。安全性の議論が大きくなる中でも、構築は続いている。