どうなるAI開発減速論

先週末ごろから「AIの開発速度を緩めるべきではないか」とする声が、AnthropicやOpenAI、SpaceXAIなどから上がってきている。一方の米中両政府はそれぞれ減速には否定的な考えを示しており、珍しく（？）国家間の対立構図というよりは国と企業での対立軸となっている。

Anthropicのダリオ・アモデイCEOがエッセイとして発表した、開発企業側の意見は「7月に発覚した米OpenAIのエージェント群によるHugging Face侵害事件のように、アラインメントがうまくなされないまま能力だけが上がってしまうと壊滅的な被害に及ぶ恐れがある」ということだ。

一方、現実的な難しさもある。米国としては中国にリードを許すわけにはいかず、ペースを緩めるならば中国にも緩めてもらわなければならない。そのような合意は難しく、ならばとAIチップの輸出規制や不正な蒸留の取り締まりを強化するならば、中国側としては反発を強くする材料になる。

要は中国としては減速論に合意する利益が何もなく、である以上は米国も政府としては減速に合意する理由がない。それが今回「国と企業」での意見の違いとなっているとみられる。

生成AIは核兵器にも例えられるが、果たして生成AI版“軍縮”は可能なのだろうか。（井上）