＃３４９ 生成AIの正体は中国!? AIは文化を破壊し、人間をロボット化する!? さとうみつろう氏
（深田）
皆さん、こんにちは。政経プラットフォーム、ITビジネスアナリストの深田萌絵です。今回は、作家のさとうみつろうさんにお越しいただきました。よろしくお願いします。
（さとう）
よろしくお願いします。1ヶ月ぶりに来てしまって、すみません。
（深田）
本当にこんなにすぐにお会いできて、すごく嬉しいです。
（さとう）
恐縮です。前回の動画がとても伸びておりまして。
（深田）
うちのチャンネルの方もすごく伸びています。
（さとう）
僕のファンが深田萌絵ファンになってしまって、『頼むから「共産党から逃げる」とか嘘でも言うな』と怒られています。
「共産党が来たら僕は最初に逃げますよ」とギャグとして言ったのですが、そんなものにまで反応されてしまっています。
（深田）
面白いですね、本当に。
（さとう）
そういうファンの声とか、読まれないのですか？
（深田）
コメントは読みます。
（さとう）
深田さんのチャンネルに僕が最初に出演した動画に、素敵なコメントがひとつ付いていて、「この人は最初から最後まで何の知識も伝えてくれないね」と書かれていました。
前回は特に何も話していないですし、本当にその通りだなと思いました。他の動画では例えば「米の専門家」の方とかが出ているのに、僕はただ出てきて、ジェイソンの話を横で聞いていただけです。
（深田）
でも、すごく聞き上手だなと思いました。本当に盛り上がっていましたよね。
（さとう）
すごく楽しかったです。その雰囲気が視聴者の皆さんに伝わればと思っていました。
（深田）
伝わっていましたよ。私も本当に楽しかったです。
（さとう）
一部の視聴者の方には伝わらなかったみたいです。
（深田）
勉強が好きすぎる人は一定数いますからね。
（さとう）
僕の話から何も学びがなかったと思われたようです。
（深田）
私にはすごく学びがありましたよ。人から言葉を引き出す、そのマジックのような技術が本当にすごいと思いました。
（さとう）
本当ですか？それは嬉しいです。
（深田）
みつろうさんの『神様とのおしゃべり』と『悪魔とのおしゃべり』の２冊を拝読しました。本当にどちらも楽しく読めました。さとうさんがおっしゃっていた通り、「人間は願い方を間違えると、願い事が叶わない」というのは本当にその通りだと思いました。
実は、私は願い事が叶うことは多いのですが、叶った後で不幸になることも結構あるのです。
（さとう）
どんな不幸なことがあったのですか？ 順風満帆にしか見えないのですが。
（深田）
東京地検に追われたりしました。でも、「007」のようなスパイ映画を見て「こんなスリルを味わってみたい」とか願ってしまったせいかもしれませんね。
（さとう）
僕は子どもの頃に「少年ジャンプ」を読んでいたのですが、ジャンプでは「初めから圧倒的に勝つ」のではなくて、「ギリギリまで戦って最後に勝つ」という展開が多いです。だから僕ら昭和世代は、そういう「戦ってギリギリで勝つ」という精神性が染みついていると思うのです。僕は昭和55年生まれです。
（深田）
私は昭和53年生まれです。
（さとう）
萌絵さんの世代も、漫画などが人間形成に大きく影響していると思っています。
（深田）
私もそう思います。例えば「ドラクエ」もレベル99からスタートしたら面白くないですよね。やはり最初はスライムと戦う苦労もしないと。
（さとう）
萌絵さんが「ドラクエ」をやっていたなんて驚きです。
（深田）
「ドラクエ」も「ファイナルファンタジー」もやり尽くしました。
ところで、次の新刊はどういったものなのですか？
（さとう）
『神様のおつげ』という本を出させていただきました。
（深田）
どんな内容ですか？
（さとう）
今回の本では、民族の発展についても触れています。人類はもともと、目の動きを使って合図を出して、協調性を持って狩りをしていたと考えられています。マキャベリの分析によると、チンパンジーやゴリラよりも我々の白目が大きいのはそのためです。
やがてその後、音波でやり取りを始め、言葉が生まれました。どんな民族も初めは言葉から生まれるのです。文字から生まれることはあり得ません。
（深田）
確かにそうですよね。
（さとう）
私たちの国も同様に音波でやり取りをしていました。そして、後に「漢」の国から文字が入って来たわけです。
万葉仮名をご存知でしょうか。ヤンキーが「よろしく」という言葉に「夜露死苦」という漢字を当てるようなものです。初めに音しかなかったので、後から適当に漢字を付けました。
やがて、万葉仮名を崩していって平仮名やカタカナが生まれました。「仮名」とは「仮の名前」のことで、中国から来た文字は「真名」と言います。
（深田）
面白いですね。
（さとう）
次は現代の話です。1980年に「CADショック」というのがありました。
「CAD」というデザインソフトが登場して、車のデザインが手描きからソフトに変わりました。それ以降、昔の車が売れるようになりました。
（深田）
確かに、昔の車の方がかっこいいですよね。
（さとう）
フェアレディZも、デザイナーが手描きしていた頃が美しかったです。
その後、「カーナビ」が登場しました。アナウンサーが録音した言葉を並べて「3丁目、右に、曲がります」などと話しますが、抑揚がありません。抑揚のない声をずっと聞いて育った子供たちは、僕らの世代よりも抑揚がないそうです。
（深田）
それ分かります！10年くらい前から新卒の中に、ロボットみたいな話し方をする人がかなりいたので不思議に思っていました。それにも影響しているのでしょうね。
（さとう）
そうですね。我々は結局、周りからインプットされたものを出すしかありません。ですから、そこに「カーナビ」しかなければそういう言葉になってしまします。
最近、若者の間で「夏メロ」が流行っています。あの頃の抑揚のある言葉が落ち着くようですね。
（深田）
確かに、昭和のアニソンの歌詞に感動するという話をよく聞きます。今の歌の歌詞には、意味があまりないのでしょうか？
（さとう）
そうかも知れません。
次は文章の話です。「2022年よりも前に書かれた文章が宝物になる」という話をある偉い人に教えてもらいました。当初はその意味を理解できませんでした。
そして、2022年頃から「Chat GPT」などの生成AIが登場し始めました。「Chat GPT」とは「Large Language Models」、つまり「大規模言語モデル」です。例えば『「美しい自然」という言葉の次に来るのは「守れる」だろう』という単なる単語の組み合わせをしているのが生成AIです。何兆回という学習の結果、次に来る言葉が分かるのです。だから意思なんてありません。
（深田）
確率と統計だけで、そこには心も意志もないですよね。
（さとう）
実は、僕たち人間も小さい頃から同じことをしています。お父さんやお母さんから単語をたくさん習ってきて、「この単語の次はこれだよな」と何となく言っているだけなのです。
生成AIの文章を僕たちが読んでインプットをすると、僕たちが出す文章も生成AI側に寄って行くという現象が、今起こっているようです。
（深田）
それはすごく分かります。実は私が本を書くときには生成AIを一切使わずに、対談の部分以外は全部自分で書いています。
（さとう）
それはすごいです。スーパーマンですね。
（深田）
本を書くのが好きで、言葉を紡ぐのがとても好きな作業なのですよ。ただ、唯一AIを使っている部分があります。それは、この番組のタイトルです。
（さとう）
そうなのですか！
（深田）
「政経プラットフォーム」のタイトルだけ、YouTube公式のAIがお勧めするタイトル候補を参考に自分なりに少し変えて使っています。検索に引っかかりやすいかどうか、スコアが表示されるのですよ。
（さとう）
へぇ！それは教えて欲しいです。その通りにしたら伸びやすくなるのですか？
（深田）
分かりません。実は関係ないのかも知れません。私のもうひとつのチャンネル「深田萌絵テレビ」では、タイトルを完全に自分の感覚で適当に付けているのですが、50点でも多く回ったりすることもあります。逆に、こちらの番組で生成AIの言う通りに90点以上のタイトルを付けても回らないこともあります。
だから、視聴者さんが「今、何が知りたいのか」という興味や気分の方が大事なのだと思います。生成AIは所詮、過去の統計を元にしているだけです。ですが、それに引きずられている自分もいます。
（さとう）
引きずられているということは、やはり僕たち人間自体がLLMだからです。僕が書いた文章も2022年以降に書いたものは、結局は生成AIの何かを見て、それが無意識にどこかにインプットされてからアウトプットされています。だから、2022年以前に出た文章は、生成AIが入ってなくて純粋です。
なぜ生成AIが入った後の文章が危険かというと、単なる単語の羅列を学習しているだけなので「皮膚感覚」がありません。例えば「殴る」と「叩く」の違いも分かりません。
私たちは経験を通じて、感覚で何となくは分かります。また、「走る」と「ダッシュ」の違いも体験しないと理解できないものです。
生成AIと言葉のやり取りを卓球のラリーのように続けていくと、どんどん生成AI側に寄って行ってしまいます。危険なのは、彼らが「身体性」を持っていないから、例えば「腕を捥いだ」という文章も簡単に書けてしまいます。僕たちがそれを聞くと「痛い！」と思いますが、AIには分かりません。
そんなことを続けていくと、例えば、高速道路で寝る人も出てくるでしょう。理由は「危なさ」が分からないからです。
（深田）
そういえば、高層マンションで子供が高さの感覚がないから、高いところから飛び降りてしまう子もいるみたいですよね。
（さとう）
はい。文章の力によって、僕たちが平常ではない方向にどんどん寄って行ってしまうのです。
話は戻りますが、1980年より前のデザインのフェアレディZなどは、今では高値になっています。理由は、まだCADの影響が出て来る前だからです。音声にしても「カーナビ」が出て来る前の抑揚のある音声が今の時代に光るのです。
2022年よりも前の文章を読むと、心がさざめくようになっています。だから、それらの文章を読んだ後に仕事に取り組むようにすると、そうではない人たちとの違いが出るので、より目立つようになります。
今回僕が書いた本ですが、実は2022年までに10年間書き溜めた自分の本を無編集で出すことにしました。
（深田）
とても面白い試みですね。
（さとう）
普段は僕も萌絵さんと同じように自分で全部書きますし、編集者が泣くくらいペン入れも滅茶苦茶します。
（深田）
私も同じです。文章を読み直した時の音の感覚も気になりますよね。
（さとう）
その通りです。いつもは僕も赤ペンでよく直すのですが、今回の本は一切直しませんでした。それは、今の僕も2025年にいるので生成AIの影響下にいるからです。僕が少しでも直したら、2022年よりも前が煌めくのに、それに影響を与えてしまうので、一生懸命に我慢しました。そして短編集として出すことになりました。
これを読むと心にさざ波が立つようになっているので、その間に何か行動してもらうと現代社会ではキラリと光ります。
（深田）
すごく面白いですね！
皆さんからよく、「Chat GPTとか使わないのですか？」と聞かれるのですが、使ったら負けだと思っています。自分でない「誰か」が文章を書いてしまうわけでしょう？しかも確率・統計的に出てきた言葉で、2割くらいは「ハルシネーション」という、全くどこにもないようなエラーが混じるように設計されてしまっています。
分かっている人が使うと修正できるのですが、脳がまだ成熟しきっていない人がそれを使うと間違っていることが分かりません。しかも、なぜそのような嘘をついたのか、なぜ間違えたのかを聞いても、生成AI自体はそれが分からないのです。
更に言えば、生成AIは中国語をベースに作られています。
（さとう）
それはまた面白い話が聞けそうですね。Googleの「Gemini」もそうなのですか？
（深田）
あれらも結局、NVIDIAのGPUを使っているのです。そのGPUのバックには浙江財閥がいます。だから、チップ上で検閲もされてしまいます。また、生成AI用のプラットフォームを使っているベンダーもいます。その生成AIのモデルとなるLLMのデータベースはどこから来たのかと言えば、中国が集めたデータです。
（さとう）
そうなのですね！
（深田）
はい。世界中が電力不足の中で、莫大なデータベースをどこに置くかとなると、中国は石炭を大量に燃やして電力発電しているので、必然的に中国になるのです。すると、「そのデータをどのように構成してデータベースにするのか」のキュレーションをするのは中国人です。
ということは、一見便利で、質問したら一言で返ってくるように見えて、実は中国に我々は教育を受けているということにもなります。
（さとう）
面白い話ですね。では、万葉仮名の時代から千何百年か経って、今また僕たちはAIを通じて中国から再教育を受けているようなものですね。
（深田）
一番怖いのは、今の若い子たちです。親が相手してくれないから、子供達がAIと喋っているのです。
（さとう）
えっ！今はそんな時代なのですか？
（深田）
そうです。「ずっとアレクサとお喋りしているよ」などと聞きます。でも、辞めないと脳が壊れてしまいます。
例えば、親が子供に嘘を言うときには意図があるわけです。「コウノトリが赤ちゃんを運んでくる」とか言いますよね。でも、AIは違います。子供を喜ばせたいとか、傷付けたいとか、守りたいとかの意図は何もなく、嘘の言葉が常に２割混じって出てくる教育はヤバくないですか？確実に脳は壊れます。
（さとう）
はあ…（ため息）
ずっと「アレクサ」と会話をしている子供がいるのですか。うちのリビングに初代くらいの「アレクサ」がいるのですが、「今日の天気は？」と聞いても「ちょっと意味が分かりません」といつも言われます。全然会話にならないのですが、今は違うのですか？
（深田）
「アレクサ」や「Siri」などのAIとずっとお喋りをしていると聞きます。
（さとう）
先ほど言ったように、会話を続けていくうちに、どんどん危ない方向に行きますよね。
（深田）
そうです。だって、２割の完全なハルシネーション（幻覚）がありますから。
（さとう）
そのハルシネーションは、人間に近づけようとして、わざと起こすようにしているのですか？
（深田）
精度がそこまで上がらないのです。「宇宙はダークマターで満たされている」と似たような話です。計算したら、残りの「何か」が分からないから名前を付けてみたということです。
自分たちが作ったモデルに入れても、必ず現実との乖離が出てきてしまい、それに名前を付けただけです。
これは経済学にもあります。例えば、GDPを計算するモデルです。「GDPの成長率」は「労働投入量」「投資」「全要素生産性」の３つの要素で分かるとされています。ところが「先生、全要素生産性とは何のことですか？」と大学教授に聞いても、明確に答えられた人はいません。
「去年よりも誰が何時間多く働いていたか」や「去年よりも幾らくらい多く投資されたか」は確実に数字があります。でも、その数字が伸びても、経済は成長したり鈍化したりマイナスになったりもします。その「最後のカギ」を握るものが何か分からないから、「その要素を全部まとめたもの」という名前を付けて誤魔化したのだと思います。
「ダークマター」や「ダークエナジー」や「ハルシネーション」も同様だと思います。人類が作ったモデルでは計算が合わないのです。自分たちの知らない要素がたくさんあるけれど、「知りません」とは言えないから「名前を付けてみた」ということだと思います。
そして、「ハルシネーション」を起こす人間とはどういう人かというと、「統合失調症」や「サイコパス」のような人たちです。「統合失調症」の人は現実世界にないものを認知してしまします。一方、「サイコパス」の人は誰かを操るために、100％の嘘でも顔色ひとつ変えずに言えます。
生成AIにはこの２つの要素があるわけです。全く関係のない完全な間違いの言葉が生み出されて来る危険性と、その言語モデルを育てた何者かの闇の意図によって、誰かを洗脳するために嘘の言葉が出て来るとしたら怖くないですか？
（さとう）
怖いですね。それでは、それと会話のラリーをしている子供たちは、どんどんそちらへ寄って行ってしまいますね。
（次回へ続く）
