[cc id=2152]
ゼミ生の皆様こんにちは、語屋アヤ（@ridertwsibu）です。
少し前の話になりますが、AI崩壊を観てきました。
私はアニメ以外にも月何本かは映画を観ておりまして、普段は洋画中心なのですが、今回はゼロワンの影響もあってAI崩壊は必ず観ておかねばと決心していました。
なお、ゼロワンとAI崩壊は同じAIによる人類反逆を謳い文句にしていますが、ジャンルと方向性はかなり違います。
ゼロワンのあらすじ。
舞台はAIが実用化され、人工知能搭載型人型ロボットヒューマギアが様々な仕事で活躍する時代。ヒューマギアを開発・製造する飛電インテリジェンスの二代目社長・飛電或人 / 仮面ライダーゼロワンとヒューマギアを暴走させ怪人マギアとして操るサイバーテロリスト組織・滅亡迅雷.netとの闘いを描く
引用元：Wikipedia
そしてAI崩壊のあらすじはこちら。
舞台は（公開時点から10年後の）2030年。高齢化と格差社会が進展し、人口の4割が高齢者と生活保護者となり、医療人工知能 (AI) 「のぞみ」が全国民の個人情報等を管理していた。そんなある日、「のぞみ」が突如として暴走を開始、“人間の生きる価値”を勝手に選別し始め、生きる価値がないと判定された人間の殺戮を開始した。警察は「のぞみ」を暴走させたテロリストが「のぞみ」の開発者である天才科学者・桐生浩介だと断定。逃亡する桐生をAI監視システムを駆使して追跡する。事件のカギを握るのは、桐生と、「のぞみ」を管理していた桐生の義弟・西村悟。警察の追っ手から逃れながら、AIの暴走を阻止しようと奔走する科学者の攻防を描く
引用元：Wikipedia
ゼロワンの方が視聴する年齢層が大きく広いこともあり、設定的なフィクション感は強い。
けれど、物語のリアリティという意味ではどちらもいい勝負でした。
これはAI崩壊側の欠点でもあるのですが、どちらかと言うとゼロワンが全年齢という条件を守りつつ、かなりAIについて深く掘り下げているとも言えます。
そのため、全然違うストーリーなのに、この二作にはかなり共通点が多い。
そして、それぞれの作品を掘り下げながら比較すると、単体では見えづらかった『だからこの作品はこうしたのか！』という部分が見えてくるのです。
結構有名な映画レビュアーの方が否定的な部分も、AIの本質をわかっていると「そうじゃねえ！ 気持ちはわからなくもないが、そこはそうじゃあねえんだよ……！」と叫びたくなります。
どちらも観たからこそ、よりAIの本質を愉しめる……！ 多分これを記事にできる人間はそんなにいない！
当ブログのお客様は今更ゼロワンの解説は必要ないでしょうが、AI崩壊は知らない人の方が多いと思うので、そちらは配慮しての感想も含めております。
観なくても大丈夫！ な前提で解説するため重大なネタバレも含みます。映画鑑賞予定の方はお気をつけください。
というわけで、今回はAI崩壊とゼロワン、同じ時代、そして同じAIをテーマにした作品を重ねたことで見える『AIとは何か』を語ってまいりましょう。
スポンサーリンク
AI崩壊の感想（ゼロワンしか知らない人も大丈夫）
本作はAIに関する考証やテーマ性こそ上手く作られていると思う。
反面、登場するシステムの技術や知識については、残念ながら子供騙しレベルだと言わざるを得ない。
ツッコミ所は色々あるが、中でも特に酷いのがストーリーを回すために展開されるAIと人間のハイテクを駆使した逃走劇だ。
警察は主人公を逮捕するため犯人追跡システム『百眼（ひゃくめ）』（もう名前からしてセンスが微妙……）を使用する。
百眼はあらゆる電子機器へ自動でハッキングをかけ対象者を追跡する。個人のプライバシーガン無視システムである。
モラルがない分凶悪性能なのだが、主人公は逆に百眼へハッキングをかけてシステムを改竄する。
この時のハッキングに使用したのは警察から貰った一枚の名刺。ただの名刺。
当然ながら百眼のサーバアドレスやアカウント情報など微塵も触れていない紙きれ一枚である。
多分これで本当にハッキングできる者がいるとするなら、それは名刺から人間の残留思念を読み取れるサイコメトラーだと思う。
しかも百眼のプログラムをダウンロードして中身を読み取った形跡はない。接続したらすぐ探知されてしまうような状況でもあったので、ソースコードを読んでシステムを解析するような時間はまずなかった。
そんな状況でちゃちゃっとコードを書いて、百眼にバグを仕込んだ。
これがどれくらい無茶かというと、『アメリカが新しいジェット機開発するので、君はそこで組み込むパーツの○○作ってね。機体の仕様？ 空飛ぶ。めっちゃ速く飛ぶ。以上。あ、動作テストとかないんで、一発で絶対動くやつじゃないと駄目。納期は三日後ね。じゃ、ヨロシク！』みたいなレベル。親方五人でもこれは無理だよ。
ラストで暴走したAIノゾミに読み込ませる新しい教育プログラムも同じようなものだった。
こちらは一応、ノゾミのプロトタイプを基に組まれたものではある。
けれど実用化されてからかなりの年月を重ねてバージョンアップを遂げたシステムが、プロトタイプと同じ仕様を保っているはずがない。
直接新しいノゾミのシステムを一切確認することなく新仕様に沿ったプログラム制作はまず不可能だ。
しかも主人公はノゾミ制作以後長い間システム業界から離れていた。勉強もなく即復帰が前提だとしたら、技術の流れが早いと言われるシステム業界においては致命傷に近い。
そして新たに組み上げたコードをノゾミに学習させる、ある意味決戦とも呼べるシーン。
正直ここは話の流れだけ見ると熱かった。反抗期のように使っていた「お父さん汗臭い」が非日常から日常へと切り替わるフレーズとなる。オタクがわかっていても抗えない流れですよ。
でも、でもね。プログラムの流し方があまりに雑過ぎる。
警察が用意した爆弾でも傷一つ付けられない強化ガラスに守られているのに、ノゾミ本体に取り付けられた外付けリーダのレンズにソースコード映すだけで自動読み取りされるって……。
それだけでなく、元々自閉モードで外部からシャットダウンも受け付けない状態だ。外部から強制的に流されたコードが通る意味がわからない。
しかも、どう見てもレンズに収まっているコードは一部分のみ。1000%正しいコードとして認識されずエラーになるよ！
そんな感じで、とりわけセキュリティ面がザルを通り越して大穴。
セキュリティホールが開いてる。しかも勝手に何でも読み込んでしまう。エボルトが生み出すブラックホールみたいなやつだ。
ブラックホール！ ブラックホール！ ブラックホール！ （プログラム読んで）レボリューション！
他にも、仲間はあっさり撃たれて死亡したけど、偶然倒れた障害物に阻まれ、主人公には都合よく当たらない銃弾。
まだ認めなければ権力の力技で勝てるレベルなのに、一人で勝手に動機を自白する黒幕。彼だけ二時間ドラマの崖にでもいるのかな？
そもそも『こんな簡単にAIが暴走するのか？』という疑問には、あるわけないと言える。
システム開発者も警察も、現実にはシステムエラーは起きるものと考えてあらゆる対策を取る。いざ同じような事件が起きたとしても、現実に起きる問題はもっと複雑で地味なものだ。
現実の延長でAIの反乱を面白く描こうとすると、そりゃあ現実と乖離する。
ゼロワンは将来現実に起こり得るAI問題としながら、令和の日本ではなく明確な並行世界としてヒューマギアや、衛生アークとゼアの概念を生み出した。
ガンダムやザクは宇宙世紀に開発されたロボットだからリアルではなくリアリティが生まれるのだ。
とまあ、細かいところをつつくと、考えたら負けレベルのものが普通に散見される。
ホントに主眼になるところ以外は、スピード感とエモさ優先！ 問題提起と着地が良ければ全て良し！ みたいなノリ。要は序盤のゼロワン。
しかし、故にこそエンタメ的な面白さで言えばレベルは高い。不足はあるけど無駄はなくて、最初から最後まで退屈はしなかった。
ちなみにトンチキIT攻防による逃走劇はスタンドバトルだと思えば、伏線を活用した熱い知能戦になる。実際そんな勢いだった。主人公は「ペイズリー・パーク」の使い手だ！
スポンサーリンク
AIの反乱が人の手によるものである理由
AI崩壊に指摘される問題点の一つとして『AIが命の選別を始める』というキャッチフレーズがある。
こう書くと多くの人は発達したAIが自己判断して、人類を不要な存在だと切り捨て始めると考えるだろう。
けれど真実は、人間が悪意あるプログラムを仕込んだことが理由だった。
結果「えー結局よくある人間が悪いやつじゃーん。スケール小さーい。ショボーい」になる。
これは半分事実で、もう半分は映画として描きたいものが何だったのか？ という解釈の問題だ。
前提としてAI崩壊は今より十年未来の出来事。そのため人類の技術も現在の延長でしかない。
そこで生まれた超スゴイ健康医療マシンが人類を管理する新たなインフラとなった。
ゼロワンでもヒューマギア開発が医療からスタートしたのと同じで、AIの発展は生命に直結する医療から始まる。
要するに、現代でAIが発展して、高度AI社会に発展するならこの分野からでしょ。という起点を押さえている。
丁寧なAI考証がなされている証だ。（と言うか私が語ること自体おこがましいレベルで、権威あるAI専門家が監修している）
そして新たなインフラとして確立され、人間側の依存度を上げていく。
どれだけネットが原因で事件や悲劇が起きてニュースで報道されても、今更人間はネットを手放せないのと同じだ。
この流れもヒューマギアの流通にかなり近い。
両者共に高度なAIが日常に組み込まれ、大きく発展を始めた黎明期の世界観なのである。
ここからはゼロワン側で考えるとわかりやすい。
ヒューマギアは人間のパートナーになるため作られた。
例えばマモル。
彼はガードマンとして人を守るため自分が傷付いても、文句一つ言わない。
それが自分の役割だと認識しているからだ。
一貫ニギローは、弟子達が全員逃げ出した気難しい店主の言葉や指示にも心が折れない。
何千回握って練習しろと言われても黙々とこなす。
美味しい寿司を握ることが自分の使命で、それが必要なラーニングだと思考している。
なお、物理ロックされたキーを力尽くでこじ開けるのはゴリラの使命だと思われる。
そんなヒューマギア達が自分の意思で人間に危害を加えることはない。
シンギュラリティという例外はあるものの、使命をこなした末に芽生えたばかりの自我なら、やはりそう簡単に人を傷付ける方向にはいかない。
言い換えると、人に危害を加えるならそうなるよう学ばせる必要がある。
それはもう致命的な事故か、意図的な攻撃行為でしかあり得ない。
故に滅亡迅雷.netによる悪意あるハッキングが必要だった。
なら、滅亡迅雷.netを作りだしたのは誰か？
それは衛生アークというAIが下した判断であり、アークを人類滅亡の意思へと導いたのは天津垓という人間が施したラーニングである。
悪意あるラーニングとは結局のところプログラミングであり、それを実行できるのは人間しかいないのだ。
何故人間が首謀者となるのか。
それはAIの反逆とは人間が引き起こすしか発生し得ないため。首謀者が人間であることには、そうなるべき理由があったのだ。
ここまではAIのシステム的な原理からひもといた経緯であるが、もう一つ物語的な事情もあると私は思う。
即ち、この手の作品だとAIの反乱が取り上げられることが多いのは何故かだ。
AIが引き起こす問題は他にもある。
例えば、有名どころだとかつて迎えた2000年問題。
次は2038年問題がかなり大きな影響を及ぼすと言われている。
とはいえ大きいと言ってもこれはシステム仕様が時限式のバグとなるようなもの。
既に想定内で対策も検討されている。
2000年問題をほとんどの人が意識せず終えたのは、エンジニア達が先んじてしっかりと対策を取った結果である。
ただの日常として過ぎ去ったのは、人知れぬ戦いを繰り広げたヒーロー達がいた証だ。
2000年問題は決してバグスターウィルスとかいう、オモシロ生命を生み出す儀式ではないんだからね！
て、結局何だったのあれ？ と言うと、最近実際に生じた同類問題がある。
一部のガラケーが2020年を迎えて日時を表示できなくなった。これが2020年問題だ。
色んなシステムが時をいきなり刻めなくなったら、そりゃ困る。かなり困る。だが地味なのだ。
何か事件の切っ掛けにはなるだろうが、これだけで映画とか特撮番組一つ作るネタとしては弱い。
逆に深刻過ぎるのも、それはそれで問題だ。
AIが発達すると、人間の仕事を奪う問題は誰しも一度は聞いたことがあるだろう。
これはAI崩壊やゼロワンでも触れられた。けど、触れただけ。
どちらも問題として取り扱いはしても、具体的な対策や解決法については掘り下げていなかった。
仕事と言う椅子の数は無限ではない。
ヒューマギアが更に高機能になり普及が進めば、人間が座る椅子の数は減る。
個人や一企業が解決するのは不可能に近い。
やれば漏れなく社会派作品になる。ジョーカー面白かったよ！
答えのない問題そのものは別に悪くない。
だがそうなると事件の善悪や、人間とはどうあるべきかの答えを、視聴者へと託す形になる。
AIが仕事奪う問題を視聴者に振っても、こんなん私にどう考えろと……になってしまう。
また、明確な悪が存在しないと物語としてのカタルシスがなくなる。
悪が存在しないと、善は正しさを振りかざせない。
泊進ノ介とハートの間に友情を芽生えさせられたのは、蛮野天十郎というド外道がいたから。
エグゼイドがTV本編でパラドと檀黎斗を味方にできたのは、檀正宗がラスボスになったから。
ビルドのVシネマでエボルトが復活してしかも生き残ったのは、新たな敵としてキルバスを据えたために他ならない。
まとめよう。AIとは突き詰めると非常に複雑で、社会問題として定義しても素人ではどうすべきかを自分で考えることも難しい。
AIが反逆する物語はわかりやすくて、解決にはわかりやすいヒーロー性が生じる。
そして、将来現実に起こり得る問題としてAIの反逆を扱うと、AI倫理から必然的に人間が首謀者となるのだ。
まとめても難しい？ 話が複雑過ぎる？
私もそう思ったのでもっとわかりやすくしよう。
メタルクラスタホッパーが初登場する次回予告で、ボロボロになった天津の姿に多くの視聴者が「1000％社長ザマアアアアア！」と思ったろう。
つまり日本人は基本的に、叩き割ってわかりやすくスッキリできるバンノドライバーを求めてるんだよ！ ｲｯﾃｲｰﾖ‼
スポンサーリンク
AI崩壊のラストは飛電或人が目指す未来
AI崩壊は人間がAIに依存した社会で、そのAIが崩壊したらどうなるかを描く作品だ。
その果てに、人とAIの関係はどうあるべきかを問うた。
AI崩壊の物語はゼロワンとは大きく異なる。
けどAIノゾミをヒューマギアに置き換えると、驚く程に同じ問題に直面している。
人とAIとはどうあるべきか？ それこそ視聴者が或人を通じて問われ続けている最大のテーマだ。
なら、AI崩壊の結論は何処に至ったか。
人間は足掻きに足掻き、悪意を持った人間を見つけ出して捕まえた。
そしてAIに再ラーニングを施し正常へと戻そうとした。けれども暴走は止まらない。
人類に打つ手はなくなった。
けれど、彼らはノゾミを元に戻す過程で、ある言葉をノゾミへとぶつけた。
『自分が生まれた意味を思い出せ』と。
そして最後の最後にAIノゾミは、シンギュラリティに達したのだ。
自分は何のために生まれたのか。
ノゾミは人を救い助けるために生まれた医療AIだ。
人を守るため生まれた。
人とAIの付き合い方
AIは人に育てられ、いずれ人を超えた存在になる。
そうなった時、AIは人の思惑を越えたところで、自分はどうあるべきかを考えるようになる。それは主観だ。
心の芽生えたノゾミにとって
ノゾミは人の悪意を流し込まれたが、どれだけ人に欠陥があり、醜いとしても、それは一片の事実に過ぎない。
ノゾミにとっての『人間』は、彼女を育ててくれた主人公や会社の皆だ。
ノゾミを育てた人間達は、心からノゾミを愛した。
人間は残酷な事実を突き付ける戦争の映像をずっと見せられたとして、自分が一番信頼する人、家族や親友を「こいつは人間だから穢らわしい存在だ」とは思わない。
そんな人間にとって当たり前なこと、けれど人間だからできる思考にノゾミは辿り着いた。
「わたしはノゾミです」
その時、ノゾミは事実としてのラーニングデータより、体験としての記憶を……自分で自分の在り方を選んだ。
彼女は人を愛するだろう。
それはノゾミが第四のインフラだからとか、プログラムされたからとか、そんな理由じゃあない。
人に愛され、人を愛することを知ったから。
人を護ることが、彼女の望みなのだ。
人がAIを育てる。
育てられたAIが信念を得て人を助ける。
そんな物語を私達は知っているはずだ。
引用元：仮面ライダーゼロワン
人とAIが想いで繋がる。
それがパートナーであるということの、本当の意味。
その夢を目指して、飛電或人は今日も跳ぶ。
[cc id=2153]
