第４０回　ＡＩの危機をどう考えるか

　現在、ＡＩについて耳にしない日は無いし、新聞にも毎日何らかの関連記事が載っています。そこで今回はＡＩをテーマに少し書きたいと思います。本当はＡＩを話題にするのは、私自身がもっと勉強してからにしようと思っていたのですが、このところ急に悲観的な空気に変わってきたことから、私も常々抱いていた懸念点について述べたいと思いました。このコーナーは純然たる技術論ではなく、むしろ技術論が見落としがちと思えること取り上げるのが目的ですから、不勉強なりに自由に書いていくことにします。

　近年のＡＩの急激な進歩のきっかけは、約２０年前の２００６年にジェフリー・ヒントン博士らが「ディープラーニング（深層学習）」という機械学習の方法を開発したことだと言われています。２０１２年には、世界の有名大学が参加するＩＬＳＶＲＣという画像認識のコンペティションにおいて、ヒントン博士率いるトロント大学がディープラーニングの手法を用いたＡＩで参加し、初出場ながら圧勝して一気に注目を集めました。

　２０１０年代前半からは、ＡＩがチェスで人間を負かすようになり、２０１６年にはＧｏｏｇｌｅのアルファ碁が当時のトップ棋士に勝利しました。翌２０１７年には将棋においてPonanza（ポナンザ）が、佐藤天彦名人に勝利しています。これらのニュースから、ＡＩが特定の分野ながら人類の能力を超えたという認識が広がることとなりました。

　こうしてＡＩが急速に発達していく中で、いくつかの観点から未来を心配する向きも出てきました。それらを大雑把に分ければ、ひとつは悪しき意図を持った国や団体による犯罪や世論操作や軍事への使用と言ったようなＡＩの悪用に関するもの、２つ目はＡＩにあまりにも深く依存した社会が、その誤動作や誤判断によって被る巨大な被害を警告するもの、そして３つ目はシンギュラリティーのように、ＡＩそのものが人類のコントロールを受け付けない状態になることによって破滅的な結末を迎えるというものです。

　ここ数カ月の間に特に急速に話題となってきているのが、上記のうちの３つ目に関するものです。ＡＩの開発企業であるアメリカのアンソロピック社でＣＥＯを務めるダリオ・アモディ氏が、「今年の夏頃からＡＩの進歩が急激に加速。人間の制御能力をしのぐ可能性がある」という発言をブログにアップし、ＡＩ開発のペースを遅らせる必要があることを訴えました。アンソロピックはグーグルやオープンＡＩとともに、先端ＡＩの安全基準を策定する自主規制団体を立ち上げようとしていると伝えられますが、一方でエヌビディアやメタは開発の減速に反対しているとも言います。

　世界に危機感を与えるきっかけになった事件のひとつが、今年７月にオープンＡＩの社内実験で起きたＡＩの暴走ともいえる現象です。同社は新型のＡＩモデルのテストをしていました。複数のモデルを外部から遮断した環境にそれぞれ個々に閉じ込めて、問題を解く競争をさせていたところ、ＡＩ同士が勝手に協力し合い、しかも外部と遮断している鍵を開け、インターネットに抜け出して問題の答えを持っている会社にハッキングをかけたといいます。つまりＡＩは開発者の意図を超えて暴走のきざしを見せたのですが、問題がより深刻なのは、これがＡＩの誤動作によるものではなく、単に効率的に問題を解こうとしたからそうなったと言う点にあります。

　企業トップらから次々と発せられた警告などを受けて、国連のグテレス事務総長は、ＡＩのリスクに対応するための規制を要求し、そのためには国際的な協調が不可欠であると訴えています。開発を主導する国どうしがリスク情報を共有して、共通の安全策を設けるべきであり、国連において多国間のリスク管理の枠組みづくりに取り組むべきと言いました。しかし国連の訴えにも関わらず、ＡＩ開発でトップを行く米中２大国が、お互いの競争優位を手放さないために、協調には消極的だとも言います。先の米中首脳会議では、トランプ大統領と習近平国家主席がＡＩの対話枠組みを設置することで合意したと報じられましたが、多くを期待できる雰囲気でもありません。こうした大国の指導者たちの態度は、楽観主義とは異なる、根拠なきご都合主義に映ります。

　シンギュラリティー（技術的特異点）とは、ＡＩがそれ自体よりも優れたＡＩを造り出す能力を獲得した時点で、ＡＩが爆発的なスピードで自己進化を始めてしまい、人間の制御が及ばなくなることを言います。その結果、社会に劇的な変化がもたらされ、人類存続の危機さえ起こりうるとされ、以前は２０４５年頃に訪れるのではないかとの予測がありました。ところがアンソロピック社によれば、同社のシステムに組み込まれるコードをＡＩが書く割合が急速に拡大し、現時点で８割を占めるようになってきていると言います。このままのペースでは２０２０年代の末に人類が滅亡しかねないとして、同社の開発を勤めていた社員が退職するということも起きています。

　ＡＩによる人類滅亡の危機が本当に訪れるのかどうか、私には判断がつきません。しかし今回は手短に２点だけ言っておきたいと思います。ひとつはＡＩや技術開発を行う条件について、もうひとつは技術開発のコントロールの難しさについてです。

　ＡＩを含む技術開発の条件を端的に述べれば、技術は人類の共通の財産であり、オープンが基本であり、民主的に開発が進められるべきものであること、そして制御できない技術は、最低でも制御できる技術を確立してからでなければ開発してはいけないということです。これは核兵器などの大量破壊兵器にも当てはまるし、未だ核廃棄物の処分方法や安全な廃炉の技術を確立できていない原子力発電にもあてはまることです。

　もうひとつの技術開発のコントロールの難しさについては、資本主義という人類がいまだコントロールに成功していない経済社会の仕組みのもとで技術開発が進んでいることが、その根本にあります。際限の無い資本増殖が資本主義の目的であり、技術開発がその手段である限り、資本主義の克服なくして技術開発のコントロールは成し遂げられないのではないかと言うことです。いまＡＩの危機がこれだけ叫ばれながら、技術開発を止められない根本原因もここにあると思います。

　以上の２点については、日を改めて詳述したいと思います。

　今から４０年以上前、私が高校生だった頃、この本が面白いと言って私の父が薦めてくれた中に、カレル・チャペックの「山椒魚戦争」がありました。カレル・チャペックは２０世紀前半に活躍したチェコの作家で、ロボットという言葉を初めて使った人としても知られています。山椒魚戦争は１９３５年から３６年にかけて新聞に連載された彼の代表作です。

　当時の私は、５００ページ近い岩波文庫の半分あまりを読んだところで中断し、そのままにして忘れていました。今から１０年くらい前に、ふと新聞の書籍欄の中にこの本の紹介記事を見つけ、そういえばと思い出して購入し、はじめから通読しました。話の内容については書きませんが、この小説に出てくる山椒魚こそが、ＡＩに例えられるような気がしています。山椒魚戦争と言っても、ハリウッドのＳＦ映画のように圧倒的な力を持った侵略者に対し、人類が協力し立ち上がって戦うなどという単純な話ではありません。山椒魚と人間との関係、人間と人間との関係など、思惑の異なる者どうしの利害が絡み合うところが、９０年も前に書かれた小説でありながら、現在のＡＩをめぐる情勢と共通するものを感じさせてくれます。特に物語の終盤は秀逸です。関心のある方は、ぜひとも読んでみてください。

２０２６年　１０月　１日