※この投稿は2023年4月20日付のThe Economist記事 “How to worry wisely about artificial intelligence” の内容を踏まえ記載しています。

はじめに

2001年に公開されたスティーブン・スピルバーグ監督による映画『A.I.（Artificial Intelligence）』を、当時大学生であった私は映画館で鑑賞した。その映画を通じて、私は初めてAIという言葉に触れた。「AIは何の略ですか？」と聞かれたら「Artificial Intelligenceです」と即座に私が答えられるのは、確実にその映画のおかげと言える。

時は流れ2023年の年始。私は年始に必ずアメリカの調査機関Eurasia Groupが発表するTOP RISKSレポートを読むようにしている。
https://www.eurasiagroup.net/files/upload/EurasiaGroup_TopRisks2023.pdf

このレポートを読み「GPT-3」や「GPT-4」といった言葉に触れた私は、恥ずかしながら、その時に初めてしっかりとGPT（Generative Pre-trained Transformer）が意味するところを理解した。またそれと前後して、心理学者のJordan Peterson教授が「我々はChatGPTの動きを追っていかなければならない」と主張している映像を見て、GPT技術のChatへの活用の流れも把握することができた。

ChatGPTは今年の3月・4月と世界中で流行りに流行った（2023年5月12日現在の理解）。今はその加熱が一段落している感もあるが、それでも「ChatGPT」自体を聞いたことがない人は、世界中にほとんどいないのではないか。

私が今回このブログ投稿を記そうと思ったのは、我々を取り囲む環境下で、今、2023年5月だからこそ書けるAIについての見解があるのではないかと考えたことがひとつにはある。ただより直接的なきっかけを私にもたらしたのは、以下のThe Economist記事となっている。
https://www.economist.com/leaders/2023/04/20/how-to-worry-wisely-about-artificial-intelligence

この記事を読んだことで、AIに関する理解や、私なりの頭の整理が進み、備忘録的に「何かを記しておきたい」と感じた。中でも次の3つの論点については特に興味深く思った。

【1】AIに人間の仕事は奪われるのか
【2】「情報の正確性」とは何か、また「クリエイティブ」とは何か
【3】人間の知能を超えたAIに、人間がコントロールされてしまうことはあるのか

これらのポイントを1つずつ見ていこう。

1.AIに人間の仕事は奪われるのか

言葉としての「AI」は、それこそ先ほどの映画が2001年公開との話があったが、ここ20年間ぐらいで一般的な認知を得るに至った。ただ「AI」だけの話に限らず、「機械化を通じて人間の仕事が奪われる」という話であれば、これは100年以上前から言われ続けていることである。つまり「技術革新によって作業労働に対する人間の関与が減る」こと自体は、この世の常と言える。AIによって減る人間の仕事があるかもしれないが、逆に新たに生まれる仕事もあるかもしれない。自分が従事していた仕事がAIの登場によって消滅してしまったのだとしたら、それは自分にとっては新たな仕事にチャレンジするチャンスなのかもしれない。

「機械化による人間の仕事の消滅」は単純労働や肉体労働と呼ばれるものから順に始まっていった。知的労働の消滅は最後になる、あるいはそもそも消滅しないといったことまで以前であれば考えられていた。ところがAIの登場により、仕事としての存在意義が脅かされることになったのは、むしろ知的労働の方である。知的労働に従事している者たちも、安心していられない。「社会的生産者」としての自分の存在意義をしっかりと見つめ直すタイミングなのであろう。

2.「情報の正確性」とは何か、また「クリエイティブ」とは何か

格段に向上した生成AIの技術をもってすれば、精度の高い画像・映像は簡単に作ることができてしまう。これによって「正確な情報」の定義が再構築されることになる。

例えば何か犯罪が起きたとする。その犯罪に関連した「証拠映像」や「証拠画像」は、生成AIでいくらでも捏造できてしまう。捏造されたものと本物の間で見分けはつかない。そして捏造されたものと本物の見分けがつかないのだとしたら、本物の証拠を”本物”と証明することもできない。そして本文の情報を”本物“と証明することができない世界では、「情報の正確性」とは一体何を意味するのか。

少し角度の異なる話をしたい。音楽、映像、デザインなど、クリエイティブな活動を行う人たちはたくさんいるが、今の時代、PCなどのデジタルツールを使わずに創作活動をする人はほとんどいない（もちろん、一部にはいるが）。そしてテクノロジーの活用が進む中で、「人間が創ったもの」と「機械が創ったもの」の境界線が曖昧になっていく。

例えば人間がPCを使ってイラストを描いたとする。そのイラストは、人間が描いたのか？それともPCが描いたの？「PCを使って人間が描いた」との説明に落ち着くであろう。イラストを描く過程で、PC自体が創造性を発揮している訳ではない。ところでイラストを描く過程で、使用する色の選択を一部AIに行なってもらったとする。その場合でも「人間が描いた絵」と言えるのか。それは「AIが描いた絵」なのではないか。これが更に進むと、「人間が創ったもの」と「機械が創ったもの」の区別が本当に難しくなってくる。

「人間が創ったもの」と「機械が創ったもの」の区別が本当に難しくなったとき、クリエイティブな創作活動における「知的財産」の考えはどうなっていくのか。人間がAIの力を存分に活用してあるデザイン（ここでは「作品A」とする）を完成させたとき、作品Aは「知的財産」として保護されるべきなのか。

作品Aを真似る意図のなかった別の人が、AIにデザインを指示した結果として、作品Aと類似した作品Bが完成したとする。その場合、先にAIが作った作品Aを知的財産として守るために、後からAIが作った作品Bの価値は否定されるべきなのであろうか。「人間が創ったもの」と「機械が創ったもの」の境界線は確実に曖昧になっていく。そのとき「知的財産」の概念と我々はどのように向き合っていくのか。

3.人間の知能を超えたAIに、人間がコントロールされてしまうことはあるのか

SF映画で誰しもが目にしたことのある光景がある。知能レベルを高め、自らの意思を持つようになったコンピューターが人間に対して反乱を起こすというもの。このようなことは本当に起きてしまうのか。

最近、堀江貴文氏がNewspicksの番組で次のような趣旨で考えを述べていた。

＝＝＝＝＝
「特定の感情を抱いている」と「特定の感情を抱いているかのように振る舞う」の境界線は実は曖昧なもの。お葬式で泣いている人は多いが、（そして本当に悲しんでいる人ももちろんいるが）果たして全ての人が本当に悲しんでいるのか。お葬式の状況が、悲しまなければならいと人に思わせて、TPOに即した行動を無意識的に取らせてしまっているのではないか。機械は人間のような感情を持つことはできないが、感情を持っているかのように振る舞うように人間がプログラムをすることはできる。機械は「感情を抱いているかのように振る舞える」時点で、既に人間と同水準にたどり着いていると言えるのではないか。
＝＝＝＝＝

ではそのような機械やコンピューターは反乱を起こして、映画の中の世界のように人類を支配しようとするのであろうか。The Economistでは、コンピューターが恣意的に人類の支配に向けて動くことはないものの、人間が考えていることとは異なる意図で動いてしまう可能性はあるとしている。

例えば人間がロボットを作って、そのロボットに対して「世界平和を実現せよ」とプログラムしたとする。そのロボットは（機械なので）感情的な判断は一切行わず、機械的な計算を重ねた結果として「世界平和を実現するためには、地球上から人類を消滅させなければならない」との結論に至ったとする。

この時、ロボットに対して「世界平和を実現せよ」とプログラムした人間は、「人間を消滅させてでも世界平和を実現してほしい」と思っていた訳ではなかったとする。そうすると、ロボットはプログラムされた通りの判断を下したのだが、その判断は人間が意図したものとは異なっていたことになる。これが先ほど記した、「コンピューターが恣意的に人類の支配に向けて動くことはないものの、人間が考えていることとは異なる意図で動いてしまう可能性はある」の意味するところである。

最後に

「シンギュラリティ」と言われて久しいが、人間と機械の境界線は確実に曖昧になっていて、この先ますます曖昧になっていく。物理的にも、そして精神的にも。もちろん、このある種「人間と機械との一体化」とも言える現象を望まない人もたくさん出てくるであろう。年齢が高い人ほど抵抗を示していくと思われる。シンギュラリティに向けて突き進みながら、我々の世代が体現していくことになる過渡期に中にあっては、後から振り返れば、ChatGPTの登場なんかももしかしたらとても小さな出来事なのかもしれない。

#Gozioki #CEOブログ #AI #ChatGPT #シンギュラリティ