「人工生命」が生み出す未知の倫理とは?【池上高志】
Main 3738dbfa d4eb 457a 9e21 3728b2202282
「人工生命」が生み出す未知の倫理とは?【池上高志】

H.SCHOOL「人工生命」特集#02/03(2017/05/20) 

Profile e1d1de1d 59ce 47ec a16e 3a8ebb0acba4
May 31, 2017 by H.SCHOOL Reporter

3 Lines Summary

  • ・『人工知能』と『人工生命』の違いは、自動化と自律化
  • ・ポイントは「フレームの外に出ること」
  • ・「人工生命」が生み出す倫理によって争いがなくなるかも

『人工生命』をテーマに4名の識者と未来のあり方を探った大人のトーク番組「H.SCHOOL」。
東京大学教授でALIFE研究者の池上高志さんが、人工生命がもたらす「生成的倫理(Generative Ethics)」について解説する。

Fc188a09 e94b 4d02 94ad d7dfc72f1866

ALIFE(人工生命)とは

池上
Artificial LIFE(人工生命)は、自律性を持つシステムを作って研究する分野だと考えていいと思います。
脳にしても進化にしても誰かが説明、誰かがプログラムを入れたり、こうしなさいって命令するわけではなくて、自然とできているわけで、自発的に自然にできちゃうっていう形を考えたい、というのがALIFEの心だと考えています。

自動化と自律化の違い

池上
“自動化”と“自律化”っていうのはどう違うのか。
アメリカとかだと郵便を出したいときに、旗を立てていると郵便屋さんが手紙を回収したりしてくれるというのがありますよね。

0d31ed5a 9a54 40eb 9ec7 e57c0632ece1

池上
それで、次のフェーズとして、インターネットを使ってどんどんメールを送り合うようになってきた。
郵便屋さんもいないし赤い旗を立てることもないんだけれども、送ったメッセージが世界中のアドレスを持ったところへ届けられると。
これも自動化ですね。郵便局員の自動化。郵便システムの自動化っていうことだと思うんです。

D2acb462 c6b9 42b4 845c 161d9cc58b03

池上
自動化のもうひとつの例としては「ルンバ」。
iRobotという会社が作ったお掃除ロボットで、これは家でお掃除する人がすることを代わりにロボットにやってもらうと。
だから「掃除することの自動化」ということです。

37c1d51b fdcf 48bc 82fa eed9e3ac4acf

池上
こちらは「グーグルカー(2005年)」。
車は人が運転するものじゃなくて、車自身が信号で止まったり、人がいたら止まったり、青になったら進んだりとか、目的地まで自動的に行ってくれる。これも「運転の自動化」というやつですね。

6612b169 b8f3 46f5 936f 709fb2883eba

池上
これらが、人がしてきたことの“自動化”。
“自律化”っていうのは人のやることの自動化ではなくて、自然界の生き物のように自律的に意思や行為決定をしていくシステムのことなんですね。

2bff1292 3c13 489a a24a b85d79c6a342

自律化=生命くさくなる

池上
鳥を見て飛行機を作ったっていうのは「飛ぶシステムの自動化」で、それでかっこいい飛行機を作ってきたということなんですが、飛行機は生きてないじゃないですか。鳥から飛行機にするときに何がコピーされなかったかっていうことを考えて、つまり簡単にいうと「鳥-(引く)飛行機」は何かということですね。

213bdf02 898d 4669 ad15 5a8b8461030a

池上
僕が子供のころに見ていた『スーパージェッター』っていう漫画に出てくる流星号っていう車は自律性を持っていて、自分でどこかへ行って、呼ぶと来てくれるんですね。これはどのくらい自律性があるのかっていうのは、後から考えたら分からなくて、言われたとおりに飛んでくるくらいかも知れませんが、でも普段どこにいるかよく分からないようなところもあって、面白いかなぁと思って。

そういうような、僕らと一緒にいないときの世界を持っているものっていうのが自律性の特徴で、そこは自動化されたのとは違うパーソナルな世界を持ち始めているということ。その辺から生命くさくなるということですね。

44c99f21 4d86 4b60 a41f aee9736ddc74

池上
自律的なものをどうやって作ればいいかというと、例えば、ディープニューラルネットワーク。深層学習って言われているんですけど、深層学習っていうのは与えられたデータを分類するんじゃなくて、見せなかったデータを自分でどんどん新しく作っていっちゃうと。

例えば、ゴッホらしいけどゴッホが描いたことがない絵とか、いかにも海の観光地みたいに見えるんだけど存在しない観光地の海とか。そういうのを考えて作ることができるようになってくると。そのしくみをみんなが研究しているということですね。

Fb5f2e81 4b03 4a54 a41c bfd4b0e07818

「フレームの外に出る」が生命の倫理につながる

池上
皆さんご存知の「アルファ碁」っていうのがあって、これはGoogleのディープマインドっていうところが深層ネットワークを使って学習させた。自分と自分が対戦するのを繰り返して、学習してきた。その囲碁のプログラムが世界チャンピオンのイ・セドルを負かしたっていうので、非常に有名になりましたよね。

このとき面白かったのは、負かした技術もそうなんですけど、囲碁の配置が今まで人々が知らなかったような新しい画期的な配置を見つけ出したってことで非常にびっくりしたと。そういうところで人の考えられないようなことができるようになるんじゃないかということで、これも自律的に生成するということですね。完全に自律的、人間の言う生命の自律的ということに半分くらい近づいているけど、まだ。

例えば、途中で囲碁をやめちゃったりするほうが自律的じゃないですか?

D1d05900 a8a9 45fd 9e38 703a1b78e4c8

市原えつこ
確かにそうですね。

池上
(アルファ碁は)そういうことはしないですよね。囲碁をするっていうことのフレームの中で新しいことはしてくれるけれども、囲碁をやめたり、途中で負けそうになったからって壊しちゃったりしないじゃないですか。

そういうような、外に対して予想もしなかったような行動をとることの方が、生命の自律性っていうこと。そういうのはまだこの延長上にはないですよね。延長上にはないので、どうやってそのフレームの外に行くものが作れるかっていうことがALIFEの中心課題になるということです。

市原
人間は命令した以外のことをしてしまうんですね。

池上
そうですね。フレームの外に出るってことはすごく重要で、これが倫理の話につながっていくということなんですね。

だからフレームっていうのは1つのキーワードで、与えられたフレームの中で最善の手を探したり最善のことをするっていうのが自動化された機械の特徴なんですけども、与えられたフレームそのものに気がついて「俺はちょっとそこから出ていきたいんだ」ってことを考える。そういうところが生命の一つ始まりなんです。

もうちょっと言うと、エデンの園だったらすごい幸せじゃないですか。エデンの園っていうのが1つのフレームで、そこから出て行くっていうことを考え出したのがヘビに渡されたリンゴを食べたっていうことなんですけども、それが生命になったということを表していると。そのフレームの外に出ていけるかってことがALIFEの1つの目的になっています。

自律化した機械を描いた2つの映画

池上
1982年に公開された『ブレードランナー』という映画があって、レプリカントっていう人間が作り出した人間そっくりの超優秀なヒューマノイドが、自分の寿命が4年ということに気付いたりして、生き延びるために人間の下で働くことから脱却して、自分の命を救うために頑張るっていう話です。

0cc6e91c 1ee0 4c07 a2b2 5c448a1dc759
Blade Runner

池上
こういう時代から30年以上経って、新しい映画が作られて、それが『エクス・マキナ』。

3f31a13a e874 4e11 b410 0647614bb727
エクス・マキナ

池上
こいつ(『エクス・マキナ』の登場人物)は、人里離れた山の中で新しいヒューマノイドを作っているんです。そのヒューマノイドは、ヒューマノイドを作った人と会話したり生活をしてるように見えて、常にここから逃げることを考えているんですよね。そこを世界だと思わないで、外側に世界があることを知っているっていうところが意外だし、面白いところですよね。与えられたところから出ていこうと。

市原
人間が結構、恐れていることでもありますよね。機械が自律的に動いてっていうのは。

池上
そうですね。自律性を与えるっていうことは自由ってことがプライマリー(最初)にくるっていうことで、それをどうしても尊重して、そいつを守るためになんでもやろうと考えるっていうのが、生命の根本的な動機なんじゃないかと考えているんですけど。
30年離れて作られたこの2つの映画は両方ともそれがテーマになっていて、僕は面白いと思ったんです。

所有制に根ざさない倫理が生まれてくる

池上
『ブレードランナー』も『エクス・マキナ』もそうなんですけど、生命的なものが自分というものを認識したら、その自分の自律性を侵されることを恐れて、とにかく逃げていく。誰かに所有されたくないというのはなぜかというと、自分だから。
所有されることからの逃避っていうのが人工生命の動くモチベーションになっていくだろうと考えて、その所有からの逃避っていうのが倫理に繋がっていくだろうと。

9ff126cb 6d0f 4ee5 9148 bd5530476691

池上
そもそも今の倫理っていうのは所有制にすごく根ざしていると思うんです。所有からフリーになることによって悪い振る舞いがなくなるというか、悪いことは結果としてすごく抑えられるんじゃないか。所有に根ざさない倫理。

所有制っていうことから自由になっていけば、そこには戦争とか殺し合いとかなくなるんじゃないか。それはすごくナイーブな意見だけど、そういうことが考えられるじゃないですか。

人間は「機械の逃避」とどう向き合えばいいのか?

塚田有那(編集者・キュレーター)
池上さんが先ほどから“逃避”っていう言葉をある種、すごくポジティブに使われているのが面白いなと思っていて。

あと、今までよくある議論では、機械が逃げてしまったら、それは人間にとって脅威であるという風にずっと言われ続けてきたと思うんですね。映画『2001年宇宙の旅』の「HAL9000」が暴走して、その結果、そこにいた宇宙飛行士は宇宙の彼方に飛ばされてしまう、というようなストーリーはやっぱり定石としてあって、機械が暴走する・逃げるというのは、シンギュラリティ問題でも怖いことだと言われていたと思うんですけれども、池上さんの捉え方って、そこはどうイメージしているのでしょうか?

8c95e942 4c6a 4588 b72e 5bccde31997e

池上
『2001年宇宙の旅』のHALの問題に関しては、僕が子供の時に思ったのは、それは機械を、HALを治せばよくて、どうして(電源を)落とすことを考えているのかと思って。まあ最終的に(電源は)落とされちゃうんですけど。それはやっぱり、悲しい感じとして描かれていますよね。

だから、HALを生命だと思っていたら、たぶん止めるっていうことよりも、HALと話し合おうとするじゃないですか。そう思っていないから、(人が)陰謀的に話し合って、口の動きからHALに知れちゃって…っていう話になるんですよね。

塚田
宇宙飛行士たちはHALと話し合うべきだったということですか。なるほど、面白い。あと、池上さんが“育てる”っていう表現をされていたのも面白いなと思っていて。それがAIではなくALIFEと呼ぶところの意義というか。生命である以上、生まれてしまったものを自分たちの子供をどう育てるか。それを「どうコントロールするか」というとやっぱり違和感がありますよね。そういう感覚なのかなという風に思いました。

池上
まさにそうですよね。だからその、自動機械とか奴隷であれば、自分に従わなければ壊しちゃえばいいし、殺しちゃえばいいって考えるけれども、生きたものに対する根源的な尊敬があったら、そうじゃなくて、了承せざるを得ないっていうことですよね。

相手のわがままとかも受け入れて、付き合っていかなくてはいけないところが一番重要なところだと思うんですよね。

人間はなぜ、わざわざ「人工生命」を作ろうとするのか?

池上
モリス・バーマンという人が『デカルトからベイトソンへ』という素晴らしい本を書いてるんですが、その中にこういうセリフが出てきます。

「未来の文化は人格のうちにおいても外においても、異形のもの、非人間的なものをはじめ、あらゆる種類の多様性をより広く受け入れるようになるだろう」。
これは、ありとあらゆる生命が生まれて、ありとあらゆる形の生命の多様性が生まれたときに、所有しようとか制御しようということじゃなくて、それをいかに受け入れるかということに、みんなの気持ちがいくようになるっていう。

そういうことが、われわれが考えるべきユートピア(理想郷)なんじゃないかということなんですけどね

A68576f4 3535 4acc 8843 0f27afb0bf25

ドミニク
どうして今、僕たちは自律化する機械、生命的な機械っていうものをわざわざ作ろうとしているのかっていう。そういう質問が飛んできそうな気がするんですけども、それに対して池上さんはどう答えますか?

393bd6cb e296 4399 a8ee de90e33c955d

池上
そうですね、すぐには答えられない難しい問題だと思うんですけども、まぁ技術で何を求めるかという問題だと思うんですよね。

さっき言った、鳥から飛行機を作ったのとはまた別の方向の、鳥からなんか別のものを取り出して、それを技術にする仕方もあるとしたら、それは人工生命化されたものを作るっていう道だと考えて、技術化の第2の方向として考えたっていうのが1つ。

ペットを作るとか自分の友達を作るっていうことを考えるときに、最初に必要なのはやっぱり自律化ですよね。自律化したからといって、すぐにこっちに歯向かってくるわけじゃなくて、友達を作っていくっていう感じで僕は考えていたんですけど。

市原
人間の歴史って考えると、自然という脅威があるじゃないですか。それから襲ってくる猛獣とかを排除し、住みやすいように自然を開拓していって、どんどんいろんなものを制御しやすい方に成長してきた歴史だと思うんですけど、それからさらに、自然のような制御できないものを機械的に生み出すっていうのはびっくりするような発想だなと個人的には思います。

池上
本当にそう思います? でも例えば、みんなすごく危ない山に行きたがったりとか、無人島に行きたがったりとか、そういうことが心の中にあるじゃないですか。それはなぜかというと、最初に言ってたように、今いる世界のフレームから外に飛び出していって、今まで見たこともないようなものに会えるかもしれないと思うからじゃないですかね。

市原
すごく危ないものが出てくるかもしれないけれども、これまで見たこともないような世界が広がっているかもしれないと…確かに。

池上
そういうのが生命の根源的な欲求だと思うんですけど、違いますかね。

 
H.SCHOOL「人工生命」特集

#01 「AIはもう常識」なアナタにおくる「人工生命」講座【岡瑞起】
#02 「人工生命」が生み出す未知の倫理とは?【池上高志】(この記事)
#03 「世界で初めて交通事故で死んじゃったロボット」から気づかされること 

 
H.SCHOOL 2017/05/20オンエア】 #02本編動画はこちら

H.SCHOOL

→ 一覧へ

App icon

ホウドウキョク

ニュース

Fuji Television

Appstore badge

Google play badge

この記事が気に入ったら
「いいね!」しよう

Profile e1d1de1d 59ce 47ec a16e 3a8ebb0acba4
H.SCHOOL
Reporter
Thumbnail 152eb051 ea93 468b b797 066dd5719393
Series
 
海外で連日アンコール。扇風機を奏でる日本人アーティストとは?
Oct 25, 2017
5.0
H.SCHOOL
Reporter
Thumbnail f820bb7f 68fc 4c31 96fd 551d7dda0212
Series
 
“DJ盆踊り”を実現。町内会を動かす“天才”が明かしたノウハウとは?
Oct 13, 2017
5.0
H.SCHOOL
Reporter
Thumbnail 17873c01 09a4 4592 b3a2 b41ce32d2e79
Series
 
泡パの仕掛人が"しくじりの連発"から学んだこと
Oct 04, 2017
4.5
H.SCHOOL
Reporter