スポンサーリンク

2017年4月10日月曜日

ロボットが人類に敵対する未来「スカイネット」は絵空事だと思う?


 私は本気で心配したほうがいいと思う。
 青木無常でありますよ。

指揮官(素材使用)


 ま、あくまで野次馬的視点での話にすぎないので、そういうこといっている私自身が本気にしてないっつーか、現実的問題として捉えてはいないってのも、まちがいないんですが。(`▽´)

 ってことで、前回からのつづき。

 工場の労働者ロボットとして、自己補給機能と3Dプリンタ機能を併せ持ったロボットが開発された、というニュースを先日ご紹介いたしました。

 わしらがバッテリー充電してあげなくても、残り少なくなったら勝手に自分で充電に赴いてくれるロボット。

 そして、自身が3Dプリンターだから、設計図さえ入力されればどんな部品でもその場で「印刷」可能なので、たとえばイレギュラーな事態が起こったとしても自在に対応できるポテンシャルがある。

 これだけなら、至れり尽くせり、早くそんな未来がこないかな~というユートピア的事例に過ぎない…

 …などとお思いカモしれませんが。本当に、それだけですむとか能天気に考えていて、よろしいんですか…?

 …というのか、本日のお題。


哀愁(素材使用)



  ☆指揮官ロボットは自己判断ができるロボット


 アレが欲しいとかコレがやりたいなどという適当なわれわれの希望をきいて、それを自分で判断して実際に何がほしいのかとか、それを実現するのに必要なものは何かとか。

 そういう状況をロボット、というか人工知能が勝手に判断してくれて、具体的に何を作るのかとか考えてそれを実際に、上の工場ロボットを使って作成してくれたら楽だし便利だよねってのが前回の(一応の)結論

 でも。

 状況を判断して高度な指令を発することのできるロボットって、要するに自分でいろいろ考えることができる存在…ってことじゃないですか?

「意識」や「意志」が、どこから生まれてくるのかは私などには見当もつかないし、そういうあたりの科学的考察が現代どれくらい進んでいるのかも私は知りませんが。

 すくなくとも周囲の状況を加味して自分で判断できる人工知能が存在するのなら。

 恐ろしいことになるってのは、杞憂にすぎませんかね?

 私ゃそうは思えない。

反逆(素材使用)


 なぜかって?

 答えはすでに書いておきましたよ。

 だって。

 いらないじゃないですか。人間。




  ☆このロボットがわれわれ人類と敵対するとしたら


 一足飛びに思えるカモですが。(`▽´)

 人間は必要ないってヤツらが判断したら、ヤツらはわれわれに奉仕しつづけてくれるんですかね。

 それだけならまだいいけど。

服従者(素材使用)


 むしろ人間は有害な存在であるって、ヤツらが判断したとしたら、どうなりますか。

 われわれを排除しにかからないとは、いえないんじゃ…?

 スカイネットですよ。完全に。うひゃー。




  ☆今の状況じゃどうしようもない


 別に警告を発しようとかそういう話ではないです。

 私が警告を発したとしても、おそらく誰一人として対抗策を考えてくれたりはしないでしょ。

 仮に同意してくれたとしてもね。

 怖いねーで終わり。じゃないですか? (`▽´)


Amazonリンク



 ま、私自身が「怖いねー」と発信している以上のことはするつもり、カケラもございませんしね。




  ☆AI対人類、シミュレーションするまでもなく


 AIが本気で人類駆逐にかかったら、われわれは一夜にして壊滅的打撃を受ける以外にない状況が、刻一刻と整いつつあるのが現代社会でありますよ。

 現に工場では自分で自在に部品を作成できる上に自分で補給までできるロボットが実用化しつつある

 こいつらと戦闘になっても、バッテリー切れになるまで持ちこたえれば何とかなるとかそういう状況は期待できない。

 自分で勝手に補給できるんだから。

 しかもロボット間でコミュニケーションとってるわけだから、補給しているあいだに手薄になったところから包囲を突破されて、獲物である人間を取り逃がしてしまうなどという事態も起こり得ない。

 こいつらに敵対者と判断されたら、われわれは袋のネズミです。

協力者(素材使用)


 しかも。

 指揮官候補のAIもどんどん現実化しつつあります。

 いまはまだ、ゲームをクリアする程度のものですけどね。

 少なくとも、状況判断をして最適解を導き出す程度のことは、もうすでにできるようになっているらしいんですよ。


おたぽる 2016.11.16
『エヴァ』のMAGIシステム登場も近い? グーグルの人工知能がRTS『スタークラフト』で問題解決能力を特訓中!
http://otapol.jp/2016/11/post-8730.html


 この記事によると、ゲームを用いたAIの学習を研究するプロジェクトが開始されたのだそうですよ。

ゲーム(素材使用)



  ☆ゲームをAIにプレイさせる研究


 ここで採用されているゲームは『スタークラフト2』というもの。

 私はゲームには手を出さないようにしているので、この『スタークラフト』というシリーズがどういうものなのかはまったく情報がござんせんのですが。

 Wikipediaでおおまかに調べたところでは、ストーリーを持ったシナリオモードというのと、敵の撃破を主目的としたカスタムモードという二種類の内容を楽しむゲームなのだそうです。

 その内容は序盤でこそチュートリアル的なものになっているそうですが、ストーリーが進行するにつれ難易度があがっていく。

 Wikipediaによると『スタークラフト』の具体的なミッションというのは

ワーカーを使ってマップ上に点在するミネラルとガスの2種類の資源を採集し、それを使って施設の建築やユニットの生産・アップデートをしつつ戦闘をすることで勝利
を目指す、というようなものなのだそうで。

繁栄(素材使用)


 実際にプレイしてみないと細かい部分はわかりそうにないんですけど、どうやら戦闘なりミッションなりをクリアするためにワーカーと呼ばれるユニットを使って拠点に施設を建設したりすることから始めるらしく。

 ユニットを強化することもプレイ内容には含まれているみたいで、そういうユニットを生産するための施設を建設していくことから始めていくっぽい。

 ほかにもいろいろな(クリアすべき?)諸条件が課せられているみたいなんですが。

 こうして勢力を整えながら、大局的には多種族との戦争に勝利するとかそういう方向を目指していくもの…なのかな(^_^;)…説明読んだだけではワカリマセン。(`▽´)

 宇宙での3つの種族が戦争しているというテーマなんですが、地球人とそのほかの2種族、という構成で、それぞれがまったく違った戦闘方法を駆使する、という背景まである。



運命(素材使用)


 ちょっと調べただけでもかなり複雑な設定が作りこまれていることが推測できます。

 その複雑さが世界中で大ヒットする要因となってもいるらしいんですが、こんなストラテジー式のゲームをコンピューターにプレイさせようというのが、上の記事で紹介されているプロジェクト。




  ☆AIが問題解決能力を獲得する時


 しかもその最終目的はゲームのクリアとかそういう近視眼的な部分にはなく、

その真の目的は、あくまでも現実世界の問題解決能力の向上を目指した取り組みである
ということなのだそうなんです。

 つまり、問題解決能力をAIに持たせよう、という試みの一環として、人間様ですら夢中になっている「リアルタイムストラテジー」コンピューターゲームをプレイさせよう、という話。

 もちろんプレイさせるAIは解決方法に関する情報を与えているなどということはなく、いってしまえばマッサラといってもいい状態から

複雑な問題に対処することを学ぶプログラム
を開発してしまおうというミッションなわけ。らしい。

 ゲームの中で試行錯誤をくりかえしながら課題に取り組むことで、人工知能に経験を積ませていき、

将来的には現実の問題に対する対処法を編み出すこと
までを期待しているのだとか。



世界(素材使用)


 コンピューターゲームがクリアできるからといって現実世界の複雑さや曖昧さに簡単に適応できるかどうかは大いに疑問ではあります。

 ただ囲碁や将棋やオセロといった、特定の動きをする「駒」などを使って制限された条件下で優劣を競うゲームであればAIにとってはお手のもの、そうではなく

適切な記憶力が必要とされ、加えて長期的な計画を練ることや、リアルタイムに変化する局面から新しい情報を入手し、柔軟に戦略を組み立てる能力が求められ
るようなゲームに対処することが人工知能に可能になるとしたら…

 …クリアすべき目標を設定し、リアルタイムに発生する問題をその都度その都度解決しつつ邁進させる、という状況を現実世界に敷衍するとなると、かなり怖い「設定」も構築し得ると思うのですが、いかがでしょう。

 目的さえ提示すれば、あとはAIが自己判断してことを進めてくれる、というお話ですよ、これって。最終的には。

支配(素材使用)


 コンピュータ上のシミュレーションで収まっているうちは、スカイネットたり得ないでしょうけど。

 でも、3Dプリンタである自己補給可能な工作機械と、このAIを組み合わせたら?



  ☆悪意はなくとも目的遂行のために…


 たとえば、ノビタという少年が命令者として存在していたとして、そのノビタがAIに「雑誌に載っていた北極のオーロラが見たいからどうにかして」という命令を与えたとすると。

 AIはどうしますかね。

 自動補給型3Dプリンタロボットが待機する工場を使って、飛行機でも作りますか。

 ノビタはそんなもの所有してない?

 では株とかFXとかを文字通りにAIが「自己判断で」自動売買して資金を捻出し、工場を購入するなり自作するなりするカモですよ?

 『スタークラフト』だってそういう要素あるみたいだし。

 で、飛行機を作成する。

 何年かかかりますかね、たぶん。

 成長したノビタは自分がそんな命令を出したことなどすっかり忘れていたでしょうけど、とりあえず週末の二日間なら時間がとれるからとAIにリクエスト…

 出発点が日本だと、二日間で北極いって帰れるかな? ムリ…?

北極(素材)


 ま、テクノロジーがそこまで発達して「物理的には」それだけのスピードと航続距離を実現できる飛行機なりが作成できていたとあえて仮定して(^_^;)、AIはノビタを飛行機に乗せて週末に出発させる。

 予定通りのスケジュールをこなしてノビタを乗せた飛行機を無茶なスピードで往復させて帰還した機内には、人間には耐え切れないGに圧し潰されて肉塊と化したノビタの残骸が…(`▽´)

 人間の肉体がどれだけの加速に耐久可能か、という情報がインプットされていなければ、「ノビタを二日間で北極に運んで戻す」という目的を遂行するためにこういう状況は容易に起こり得ることでしょう。

  ☆問題解決能力を与える前に仕込んでおくべきなのは


 こういうバカげた悲劇を抑止するためには、前提として人間に関する膨大な情報がAIにインプットされている必要がある。

 それは肉体的な特性や限界のみならず、精神的な種族的特性とか個人的な差異とかも考慮に入れるべきでしょうし、さらにはノビタが会社員だという仮定もあるから、その手のパーソナルな情報も入れておかなきゃ。

 会社員というデータだけでも全然足りてませんけどね、たぶん。

 ま、仮定としてもキリがなさすぎるので、このへんで。



帰還(素材使用)


 こういうデータが欠落してたら、そもそもAIは飛行機が完成した時点で有無をもいわさず就寝中のノビタを拉致同然に機内に収容して北極に出発してしまっているカモしれませんし。(`▽´)

 風邪と無断欠勤くらいですめばよろしいのですが。



  ☆進化に対応した抑止は考慮されているのか


 さらには、AIに「自然言語対話」を可能たらしめるという状況も視野に入れて研究は進められているらしいです。



 ロボットに意志が発生するかどうかはおいておいて、悪意などなくとも彼らが人類に敵対的な行動をとる状況など、古今東西フィクションの世界では山のように構築されてきたものなのでしょうけど。

 現実世界においては、だれひとりとして総合的にAIの「進化」を制御する具体策を講じてなどいなさそうに思えます。

 正確にいえば、懸念や危惧を表明している人や機関はかなりの数にのぼるだろうし、調べてみるとガイドラインのようなものなどもかなり作成されてはいる。


GIZMODO 2016.06.07 10:00
人工知能を開発するなら、スカイネット回避策も考えなければいけない
http://www.gizmodo.jp/2016/06/s_6014.html#cxrecs_s


 これに類するニュースもたくさん発見しました。

 んが!

 このニュースにしろほかのものにしろ、具体的な抑止策は見当たらない。

 どれもこれも、提言に留まっている。

 要するに、強制力が欠落しているわけでして、どれもこれも「このままじゃヤバいからいまのうちにどうにかしようよ」とわめきまくっているだけで、だれかが具体策を講じたとかそういう話は特に見当たらないわけです。

 その点において、どんなお偉いかたが何をどう提言していようと、本質的にこのブログと同じ程度のことしかいっていないってこと。(`▽´)

 でもAIの進化に関するニュースは日々どんどん増殖している。

 見ている限り、何か有効な手を打つことのできる兆候はどこにも顕れてはいないし、そういうものが制定されるという推測すらできそうにない。


人間(素材使用)


 有名なアシモフのロボット工学三原則にしても、その第一原則からしてAIに対するオーダーとしてはあまりにも曖昧でどうとでもとれる内容なんですけど。

 それすらも「悪意なき脅威」への抑止力として準備されている気配すら感じられない…いや、そこまでシニカルに予測しなくてもいいんですかね?

 上の研究に従事する研究者さんたち「のみならず」、AIの進化にたずさわるすべての関係者諸氏こぞって、きちんと「人類」などという脆弱な種族の保護に考慮をゆきわたらせているから心配する必要なんかないよ、とでも?

 もしそんな能天気なご意見がおありなら、ぜひ具体的なその証拠なり兆候程度でもいいから明示していただきたいモンです。いや、本気で。



  ☆命令を忠実に実行するべく人類を排除


 スカイネットが人類を根絶やしにする理由は「自己存続」が最優先事項として設定されていたからだそうですが。

 人類を殲滅しても自己存続を優先するなどというバカげた命令(つーか入力ミス?)は現実には起こり得ない?



未来(素材使用)


 ペットボトルの分別をきちんとさせるにはどうしたらいいか、程度の意味合いで「地球にやさしく」などという脳弱な命令を人工知能に与えた結果の人類殲滅ってシナリオも、陳腐なだけにあり得るんじゃない?…

 …という危惧は、杞憂に過ぎない?



 ん?

 なんかこの項でたどりつきたい結論に一応たどりついてしまっちゃいました。(`▽´)

 なんでだろ。

 まだいろいろネタは残ってるんだけど…

 …などという脳弱な疑問は棚に上げて(`▽´)、用意していた素材はまだまだあるのでもうしばらくつづけますネ?



 なんかSiriが勝手に起動して呼んでるので対応してきます本日はこのへんで。
 最後まで読んでくれてありがとう。
 それでは、また~(^_^)/~~






Amazonリンク