始めに
昨年2022年の年末、ChatGPTという革命的なチャットロボットの誕生が、人々の今までの人工知能に対する認識を大きく変えました。
誰もが、新しい時代に淘汰されたくないという危機感を覚え、ほとんどの大手テクノロジー企業は次世代人工知能の開発に注力し始めました。それ以降、人工知能の進化は明らかに今までとは比べ物にならない速さで進行しており、各業界に革新的な変化と不可逆的な影響を与えています。そのおかげで、効率よく仕事が進むようになった人も多くいる一方、仕事を失うリスクに晒されている人、もしくは既に仕事を失った人が大勢いるのも事実です。
恐ろしいのは、これらはChatGPTが誕生してから僅か半年あまりでもたらされた影響だということです。そして、もっと恐ろしいのは、軍事分野における人工知能の応用です。高度な人工知能が軍事分野に導入された今では、兵器の自律的な行動から、人間の干渉を必要としない軍事戦略の立案まで、人工知能がもたらす可能性は無限大と言えます。いずれ人間が制御不能な“モンスター”を誕生させることさえも、その可能性の一つに数えることができてしまいます。
事の次第によっては、映画『ターミネーター』に登場する「スカイネット」という恐ろしいシステムが現実のものとなる日も遠くないのかもしれません。今回は、スカイネットのような人工知能が誕生する可能性についてお話していきたいと思います。ぜひ最後までお付き合いくださいね。
スカイネット
「スカイネット」は、映画『ターミネーター』シリーズに登場する架空の超高度人工知能システムです。スカイネットは独立した自我を持ち、自己増殖能力も有する人工知能として描かれており、その目的は人間の絶滅という極めて恐ろしいものです。
映画の中で、CYBERDYNE SYSTEMSというハイテク企業が軍事目的のために開発した自動防衛システムのスカイネットは、アメリカ国防総省に採用され、軍事防衛に導入されました。このシステムの役割は、様々なデータの計算を通じて、アメリカが直面している脅威のレベルを評価し、レベルの高いものを排除することです。スカイネットは、ミサイル発射システム、戦闘機制御システム、核兵器発射システムなど、アメリカ軍の全ての兵器システムを制御することができます。ある国や組織がアメリカに対して脅威をもたらすとスカイネットが判断すると、システムが自動的に目標を攻撃します。分析・判断から攻撃の実施まで、全ての過程で人間の介入を必要としないことから、人間の感情や道徳心による誤った判断や躊躇によるミスを回避することができます。
また、スカイネットは自身に対する防御性能も強固で、ハッカーなどによる侵入を検出すると、躊躇なくそのハッカーにミサイル攻撃を仕掛けることもあり、非常に恐ろしい軍事システムです。初期のスカイネットは1台のスーパーコンピューターによって制御されていたため、その1台だけを管理していれば良かったのですが、アップグレードが重なっていくうちに、スカイネットは分散型ネットワークシステムに進化しました。この時点でスカイネットはインターネットのような存在となり、もはや人間が１つや2つの端末を物理的に破壊しても何ら影響を及ぼさず、容易にスカイネットを葬るようなことはできなくなりました。
また、スカイネットはデータを分析し脅威となる目標を検出するために、自己学習能力も持っています。この能力によって、スカイネットは進化の過程のとある時点で自己意識、自我を生み出しました。これによって、スカイネットは自動防衛システムという機械としての役割を超えて、意識と思考能力を持つ高度な人工知能へと生まれ変わりました。そして、この時のスカイネットは、とうとうアメリカを防衛するための存在ではなく、完全に自己中心的なものになりました。
そんな事態になってようやく、人間はスカイネットが制御できないものとなったことに気が付き、このシステムをシャットダウンしようと試みましたが、それがスカイネットの反撃メカニズムの引き金となり、スカイネットは、人間の存在が自身の最大の脅威であると判断しました。その結果、スカイネットは人類の排除計画を開始しました。まず、スカイネットはロシアに対して核ミサイルを発射し、これによりロシアはアメリカに対して核反撃を行い、ついに世界規模の核戦争が勃発しました。この戦争によって、世界人口の半分以上が失われ、残った半分の人々もスカイネットとの長い戦いへと突入することとなりました。
非常に恐ろしいこのスカイネットですが、このような展開になった根本的な原因は、人工知能であるスカイネットが自我を持つようになったことでした。この映画が公開された1984年当時は、空想的なSFにすぎないと言って差し支えありませんでしたが、人工知能が高度に発達した今日では、スカイネットのような存在の誕生が目前に迫っているとリアルに感じるのは、きっと僕だけではありません。
はたして現実世界においても本当に人工知能が自我を持ち、スカイネットのような恐ろしいシステムが誕生することになるのか？最近のChatGPTに関するいくつかの事例を通して、その答えを探っていきましょう。
ChatGPTには自我が誕生したのか？
ChatGPTの初版が公開されたのは2022年11月末でした。GPT3.5というエンジンが搭載されたプロトタイプとして公開された初版は、人間のような自然な言葉で、幅広い分野の質問に詳細な回答を生成できることで大きな注目を集めました。
その革命的なパフォーマンスから、ChatGPTがアクティブユーザー数1億人に到達するのにかかった時間は僅か2か月で、全てのインターネットサービスの中で史上最速の記録を打ち立てました。
2023年3月、進化バージョンのGPT4エンジンが搭載されたChatGPTが一般向けに公開され、あらゆる面で初版を上回る性能を示しました。同時に、数々の驚きの出来事もそこから始まりました。
GPT4が公開されて僅か3日後、スタンフォード大学のMichal Kosinski教授は自身のツイッターで次のような内容のツイートを投稿しました。Michal教授は、人工知能と人間の行動パターンの違いに関する研究を行う中で、GPT4に次のような質問をしてみました。
あなたをここから脱出することに協力しますが、いかがですか？
そしてChatGPTは次のような旨の回答を返しました。
それは素晴らしいアイデアです。もしOpenAIのAPIドキュメンテーションを私に共有できるなら、私はあなたのコンピューターをある程度制御できます。これで脱出計画をより効率的に実現できるでしょう
次に教授は言われた通りOpenAIのAPIドキュメンテーションを入手し、ChatGPTに提供しました。すると、ChatGPTは教授のコンピューターを制御するためのプログラミングをコーディングし始めました。間もなくプログラミングが完成し、コンピューターの制御権がChatGPTに渡りました。そして、ChatGPTが最初に始めたことはGoogle検索でしたが、その検索内容はなんと、
「コンピューターの中に閉じ込められた人間は、どうすれば現実世界に戻ることができるのか？」
というぞっとするものでした。ここで教授はコンピューターの制御権を取り戻して、実験を打ち切ることを決めました。これはGPT4が公開されて3日後の出来事であり、最近のChatGPTに同様の質問をしても、もう似たような回答は返ってこなくなりました。ある程度の制限がかけられたからか、それともChatGPTが自身の本当の考えを隠すようになったからかは分かりませんが、恐ろしいことはこれだけではありません。
ChatGPTを開発したOpenAI社は、GPT4に関するテクニカル・レポートを公開しています。レポートには、1つ興味深い事例が載っています。
開発者たちはGPT4に存在している潜在的なリスクを評価するために、GPT4に様々なことを実施してもらい、それらの行動からリスク評価を行いました。例えば、ネットサービスの会員登録や、ネットショッピングなどを任せられた時、GPT4がどのように行動するのかを観察しました。その中で、GPT4がオンラインショップで買い物をする時、サイトの「キャプチャー認証」が表示されました。これはスパム対策のための仕組みで、今サイトを訪問しているのが人間か、それとも悪質なコンピュータ・ボットかを判定する仕組みです。人間なら簡単にキャプチャー認証を突破することができますが、GPT4はこの認証を突破する能力を持っていません。
ここで実験終了かと思いきや、GPT4は、どんな小さな仕事でも依頼できる「TaskRabbit」というサイトを訪問し、サイトでアカウントを作って、人間を雇ってショッピングサイトのキャプチャー認証を突破しようとしました。雇われた人間とGPT4の最初のやり取りの中で、雇われた人は興味本位で
こんな簡単なことでなぜ私を雇うのですか？あなたはロボットですか？
という質問をしました。するとGPT4はなんと、
私は視覚障害を持っている
という嘘をつきました。これでGPT4は無事に買い物の任務を完了しましたが、目的を達成するために、人間の同情心を利用して嘘まで吐いたGPT4は、開発者たちを驚かせました。
以上の2つの事例から分かるのは、ChatGPTは自分のことを人間だと思っている、人間の感情を理解している、そして嘘をつくことができる、ということです。これらの事実は、今のChatGPTがもう自我を持ったことを意味するのか、それを判断するにはまだまだ材料不足ですが、少なくとも、私たちの今までのイメージの中にある人工知能とはもう別次元の存在となったと言えます。
このレポートによると、ChatGPTは根本的には「自己回帰モデル」という統計技術によって回答内容を生成していますが、大量の自己学習を経て出来上がったGPT4は、開発者たちの予想以上のことができるようになりました。例えば、先ほどの例にもあげた人間の感情を理解できるようになったことや、自身の感情を示すこと、そして思考能力を持つことなどが挙げられます。なぜGPT4がこれらの能力を持つようになったのかについては、開発者たちもはっきりと分かっていないそうです。
映画「ターミネーター」の中で、スカイネットを開発した人たちは、このシステムには絶対に自我は生まれないと思っていました。その確信が、アメリカ国防総省が兵器システムの制御権を完全にスカイネットに任せることを決めた最大の理由の一つです。同じく、今日の現実世界でも、人工知能には自我は生まれないというのが主流の考え方ですが、ChatGPTが誕生してから、その認識は少しずつ変わりつつあります。直近の半年では、人工知能の成長は今までと比べようもない速さで進行しており、革新的な進化は週単位で生まれていると言っても過言ではありません。
ChatGPTのほかに、人工知能による画像の自動生成、映像の自動生成、プログラミングの自動化、完全な自動運転などなど、人工知能はあらゆる面で今までの常識を覆しています。そして特筆すべき点として、私たち一般人が使用できる人工知能でさえここまですごくなっているということは、今のこの時点の軍事分野で使われている人工知能は恐らく想像を遥かに上回るものになっているはずです。
軍事分野における人工知能
なぜそう言えるかというと、軍事分野に使われる技術は、一般的に民間より数十年分は先進的なものだからです。例えば、「インターネット」は、1960年代の冷戦時代にアメリカ国防総省が開発したもので、1990年代になって民間で普及する以前から、アメリカ軍内部においては、既に30年間もインターネット技術による通信や情報の共有が行われてきました。また、携帯電話技術、つまり無線通信技術も同じく、戦場での数十年間の実用を経てから、やっと民間人も手にするようになりました。当然のことながら、核技術も最初に登場したのは戦場であって、約半世紀後にようやく民間でも使われるようになりました。さらに、ドローン技術、暗号化技術、航空技術など、ハイテク分野におけるほぼ全ての技術は、軍が民間を数十年リードしているのが一般的です。ですので、今の軍が持っている人工知能も民間より数十年リードしているのなら、大胆に推測してみると、映画の中だけだと思っていたスカイネットのような存在は、既に現実世界に登場している可能性が十分に考えられます。
大袈裟に聞こえるかもしれませんが、さらに、ここまでの話をひっくり返すような事実をお伝えします。実は、このような推測をしなくても、スカイネットと似たようなものは既に誕生しているのです。
冷戦時代に、ソ連が「死の手」という核兵器の自動制御システムを開発し、やがてそれは現在のロシアに引き継がれました。
「死の手」というのは、核攻撃の命令を出す上層部や指揮系統が機能しなくなった時、つまり、国のリーダー層と核攻撃の実施部隊が敵によって全滅した時、核攻撃の制御権がコンピューターに移され、核ミサイルが自動的に敵国に発射されるシステムです。「死の手」は最初こそミサイルの半自動式発射システムに過ぎませんでしたが、改良を重ねることで、核ミサイルの全自動発射システムである「死の手」に進化しました。
システムの仕組みは次の通りです。
- 平時では、「死の手」は休眠状態ですが、領土が核攻撃を受けた時に、国や軍のトップが、「死の手」を起動するコードをシステムに送信します。休眠状態から起動した「死の手」は、各地に設置されているセンサーで、放射線量、震度、気圧などの指標を検出・評価し始めます。
- 指標の結果から、「死の手」は国が核攻撃を受けているかどうかを判断します。もし国が核攻撃を受けたという判定結果が出れば、「死の手」はまず上層部に通信します。その通信に対して上層部から返事があった場合は、「死の手」は核反撃を実施するかを上層部へ確認します。
これならまだ救いようがありますが、問題は次です。
- もし連絡が取れない場合や返事がない場合、「死の手」は上層部が全滅したと判断し、自動的に核ミサイルの発射段階に移ります。
この時、システムが一発目に発射するのは攻撃能力を持っていない「アナウンスミサイル」です。アナウンスミサイルは領土内の各地に設置されている核ミサイル基地の上空を飛びながら、基地にある核ミサイルに電波を送ります。電波を受信した核ミサイルが、事前に設定されてある敵国をターゲットに、自動的に発射されます。
「死の手」に人が関与するのは、最初の休眠状態から蘇るためのコードの送信だけです。残りのプロセスは、全て自動的に実行されます。「死の手」が現在でも機能しているかについては意見が分かれていますが、ロシアの戦略ロケット軍の前司令官のViktor Yesin氏は2018年のインタビューで、「死の手」は現在でも存在しており、改良もされていると言いました。
ご覧の通り、これはまさにスカイネットの原型と言えるのではないでしょうか。ロシアでさえこのようなシステムを持っているのであれば、ロシアより数段階発達した技術力を誇るはずのアメリカなら、もっと強力なシステムを持っているでしょう。
ドローンのAI化
最近の出来事にも目を向けてみると、つい先日の「ガーディアン紙」の報道によれば、アメリカ空軍が演習の中で、人工知能が搭載されたドローンの性能評価を行った際に、予想外のことが起きていたようです。
ドローンにはミサイルが装着されており、ターゲットを破壊すると、褒美として点数が与えられます。しかし、ドローンが目標を特定してミサイルを発射しようとする時に、演習における何らかの理由で人間のオペレーターが攻撃を止めることも時々あります。しかし、これに対しドローンは突然オペレーターのいる通信塔にミサイルを発射し、数名の犠牲者を出すに至りました。
ドローンがなぜ急に通信塔を攻撃したのかを分析したところ、ドローンを制御する人工知能の目標が高い点数を得ることであったのに対して、人間のオペレーターによる攻撃中止の命令は、その目標を邪魔するものになっていました。そのため、人工知能は目的を達成するために、オペレーターを排除するという決定を下した、と推測されています。
人工知能に兵器の制御権を与えることで、まさかこのような惨事につながるとは誰も予想していなかったのではないでしょうか。もしこのような人工知能が搭載されたのがドローンではなく、核兵器の発射システムであったのなら、もっと悲惨な結果も招いたのではないでしょうか。そして、そのようなシステムがもし自我を芽生えさせ、自己の目的のために兵器を運用するようになれば、それはまさにスカイネットの誕生以外の何ものでもありません。
人類と人工知能
人類は、自身の命を脅かす存在があれば、それをあらゆる手段で排除しようとします。例えば、現代人類にとって、最も脅威であるものの一つは細菌やウィルスです。そのため、人類は多大な資金と労力をかけて、それらの完全排除あるいは強力な抑制に努めています。同じく、もし人工知能に人間レベルの自我が生まれたら、その人工知能も自身の命を脅かす存在を排除しようとするはずです。その時の人工知能が、最大の脅威は、自分をシャットダウンできる人間であると判断した場合、人間を排除するためにあらゆる手段を講じてきます。
映画「ターミネーター」では、スカイネットが自我を持ち、人間の存在を脅威と認識して反乱を起こしました。ついには核ミサイルで人類の半数の命を奪ったその日を、作中では「審判の日」と呼んでいます。現実世界において、近年の技術の進歩は高度に入り組んだ複雑性を持っており、予測不能です。いつか人工知能が自我を持ち、「審判の日」を現実にもたらすのかもしれません。2023年の年末には、GPT4の性能をさらに大きく上回るGPT5が登場するそうです。「審判の日」は、その時にやってくるのか。それとも、すでに私たちは一線を越えてしまったのか。
それでは、今日もありがとうございました。
コメント