TeslaのElon Muskが国家間のAI競争が第三次世界大戦を招くと警告

次の記事

ティム・クック、Appleで働く「ドリーマーズ」250人を支持すると発言

Elon Muskは、労働の日(米国時間9/4)を不吉な予言で祝った。この多産なテクノロジスト起業家によると、人工知能の技術の世界最強を目指す国家間の競争は、第三次世界大戦のような状況を招く、という。

Muskはその思いを月曜日(米国時間9/4)にツイートしたが、それは北朝鮮の自称水素爆弾の実験が契機だったようだ。その後のツイートで、そのことを明かしている。

[中国やロシアなど大国によるAIの優位性をめぐる国家レベルの競争が第三次世界大戦を起こすだろう。]

Muskによれば、これからは、ロシアや中国などコンピューター科学に強い国々のすべてがAIの覇権を目指して競争する。それは、The Vergeに載った、AIにおける世界のリーダーが全世界のリーダーになる、という説に対するロシアのリーダー、ウラジミール・プーチンのコメントをめぐる記事への、彼の答でもある。

AIを開発している国自身が意図的意識的に第三次世界大戦を開始する、という意味ではない。Muskが言いたいのは、テクノロジーの軍拡競争の中で開発されたAIのどれかが、自分が世界のリーダーになるためにはそれが最良の道であると判断して、実際に攻撃を開始することもありえる、という意味だ。

OpenAIの創始者でもある彼は、さらに続けて、AIの軍拡競争がもたらす脅威に比べると、核戦争の危険性は低い、と主張する。人間リーダーが実際に核を発射する可能性は、文明の存続に対する懸念のリストの中ではずっと下の方にある、と彼は言うのだ。

Muskによると、AI技術の各国家による追究がもたらす最大の危険性は、それらが超法規的でありうることだ。そのため従来のように、国のイノベーションは民間企業のイノベーションを後追いするという従来の傾向に逆らって、独自の研究開発路線を突っ走ることもありえる。〔原爆がそうであったように。〕

[政府が企業の最先端のAI技術を独占的に入手することもありえる。]

Muskは前にもAIの危険性について語り、それを“生存の危機”と呼んだ。彼がOpenAIやNeuralinkを創設したのも、そのためだ。前者は人工知能の開発を正しい監査のもとに公開的に行っていこう、という主旨の団体。そして後者は、人間の脳とAIを結びつけることによって、AIが人間を無視して独走しないようにすることを目指す。

彼の危機感は技術に対する誤解に基づいている、と批判され、AIの専門家たちの一部は、彼には技術がわかっていない、とまで言った。Muskは、それらの批判に折れて自説を撤回してはいない。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa))