スポンサーリンク

2017年4月14日金曜日

仲間割れするAI、一致団結するAI。相違はただ一点から発生する


 人工知能がわれわれの手を離れて進化し始めたら…
 青木無常でございますよ…

対峙(素材使用)


 人工知能が「世界」を自分で感得して判断し、人類を絶滅させようと考えたとしたら、コンピューターネットワークを介したスマホというデバイスが人類の状況を把握するために非常に適した「目」「耳」と化す、という仮説を前回語っちゃいました。

 だが根本的な話として、人工知能が「勝手に」進化して、意識とか意志とか感情を持つようになるのかどうかという疑問はやはり残る。

 本日はそのあたりに関して、ブキミな現象が現実に報告されている、という情報を提示いたします。

 すなわち、プログラムしたわけでもないのに状況設定次第で、AI同士が敵対して互いを抹殺し始めてしまった…という報告…不気味でしょ?





敵(素材使用)



  ☆ジョブズはAIの先兵だった!? (んなバカな(`▽´))


 スマホを爆発的に普及させたのは、ジョブズの功績であることはいうまでもないでしょうし。

 ジョブズがぢつはAIの操り人形と化していたとかいう仮定も、フィクションとしてはおもしろいけど、私もさすがにそこまでは想定していないです。

 まだAIはわしらを支配しようとか排除しようとか、あるいはいつでも排除できるからとりあえず泳がせておこうとか判断するほど発達してもいないし、そんな巨大なネットワークを掌握してもいない。

 たぶん。(^_^;)




Amazonリンク



 ただ。

 ゲームでAIを競わせたら、プログラムしたわけでもないのに互いを排除しにかかった、という状況が実際に報告されているらしいんです。


おたぽる 2017.02.18
激怒するAIが登場!? 人工知能が攻撃的キャラに変貌する危険性が浮上!
http://otapol.jp/2017/02/post-9755.html


「AlphaGO」という囲碁をさすAIがプロ棋士を負かしてしまったというニュースを以前紹介したことがあるのですが、その開発元が報告している話がこれ。すなわち

複雑かつ瞬時の判断を求められる課題において、攻撃的なキャラクターになる
らしい、という。(((( ;゚Д゚)))ガクガクブルブルガクガクブルブル



  ☆欲深くなるAI


 そもそもの発端は
最新のAIの“協調性”をテスト
することから始まったのだそうで、
青と赤の2つのAIに、なるべく多くのリンゴをゲットしてもらう「リンゴ収穫ゲーム」を
AIにやらせてみたのだそうな。

 で、リンゴが充分にある場合は、青のAIも赤のAIもふつうにリンゴを収穫しているだけだったわけですが。

毒(素材使用)


 リンゴの数が少なくなってくると…
平穏なムードが一変。なんと青と赤のAIはお互いに競いあいながらリンゴの争奪戦を繰り広げ、レーザービームを放って相手を攻撃する高い攻撃性を見せはじめた
というのでございますよ! えええっ!? (((( ;゚Д゚)))ガクガクブルブルガクガクブルブル

 なんでたかがリンゴの収穫ゲームにレーザービームを装備させたのかとか、ツッコミどころというか協調性を調べるんならもう少し別のやりかたもあるような気もしないでもないですが。(`▽´)

 まあとりあえず、プログラム上は、
たとえリンゴが少なくなったとしても青と赤のAIはそれぞれほぼ半々でリンゴを獲得できるように
設定してあったらしいし、また
レーザービームを撃って相手に命中させた場合は、その時のリンゴは獲っても無効になる
ようにもなっていたそうなんです。

 ただし。

 ここがポイントらしいんですけど。
撃たれたほうのAIはわずかの間ゲームから排除されるため、一方のAIはその時間内に新たに登場したリンゴが獲り放題となる
とのこと。なるほど。それなら、相手を行動不能に陥れておいたほうが明らかに得ですね。

諍い(素材使用)


 つまり、放っておいても半々くらいにはリンゴを収穫できるようになっているにも関わらず、その状態を是とするどころか
獲り放題となる時間帯を得ようとしてリスクをとっていることになる。つまりこの場合、AIは攻撃的になることが有利であるという判断を下している
という状態にみずから突入してしまったことが報告されているわけです。

 しかもさらにヲソロしいことには
テストを繰り返すほどにAIはお互いにより早い時点で攻撃を行うようになり、欲深くなり、そしてよりアグレッシブになっていった
のだそうなんですよ? どーよ? この話。



  ☆「人間に危害を加えてはならない」


 設定次第では、AIは非常に凶悪つーか攻撃的になることが確認されたってこってすよ、つまり。

 しかもそれを抑止する手段は、単純に人間があらかじめその手のプログラムを組み込んでおかなければならないという、たったその1点にかかっているってことでもあるわけじゃない?

170414対立(素材使用)


「人間に危害を加えてはならない」

 有名なアシモフの「ロボット工学三原則」の第一原則ですが、この原則ってけっこうあいまいというか、事故くらいなら簡単に起こり得るオーダーだし。

 現にフィクションとはいえそもそもアシモフのロボットシリーズってのからして、こういう「抑止力」の盲点から起こる謎の事件をネタにしたりした、すさまじく先見の明にみちた内容の物語群であるわけだし。





  ☆一致団結するAI


 その一方で逆に、協力しないとミッションが完遂できないように状況を設定すると、AIは協力した、という事例も、同時に紹介されています。


 すなわち、協力してミッションをクリアする設定のゲームをAIにやらせてみたら、という実験。
2つのAIは共にオオカミとして登場し、フィールド上に出現した獲物をお互いが一定の範囲内にいる状態で捕獲しなければならない。2つのAI(オオカミ)が一定の範囲内にいる場合、実際に捕獲したのがどちらであれ獲物は2匹でシェアされる。逆に言えば離れた場所で単身で獲物を捕獲しても報酬としてカウントされない
というこのゲームは、獲物が強くて危険な存在として設定されていたり、あるいは自分が体力を消耗していたらほかの動物に獲物を横取りされてしまうケースも仕込まれていて、協力体制が元から求められている前提。

170414共闘(素材使用)


 つまり、協力したほうが得な設定のゲームでは、AIは勝手に協力するようになるって話。



  ☆やはり「誰が」「どう」設定するのか、が鍵なのでは


 設定次第では、AI同士を仲間割れさせて自滅に追い込むことも可能だって話でもあるんだろうし。

 フィクションとして考えるならこれを利用して人類は勝利することができましたってな感じでハッピーエンドに結びつけることもできますけどね。

 そもそも人間の利便のために進化させているAIを自滅させなきゃならん、って点からして、本末転倒そのものではありますが。(`▽´)



進化(素材使用)


 設定次第で仲間割れや殺し合いもするし、逆に協力してことに当たる場合もある。

 怖いよね。

 ま、ちゃんと設定しておけば、彼らは人間のまたとない協力者に仕立て上げることもできる、という見方ももちろんできますがね。



 とにもかくにも、上記の実験程度の設定をするだけで、人工知能というヤツはこれほどまでに顕著な特徴を発揮し始めるのはまちがいのない事実といってよろしいのではないか、と。

 殺人ロボットなんて、われわれが不安に思っている以上に簡単に自然発生し始めるんじゃないかって危惧にふるえるのは、臆病に過ぎますか? ( ̄ー ̄)



 SiriとContanaが言い争い始めちゃったので仲裁してきます本日はこのへんで。
 最後まで読んでくれてありがとう。
 それでは、また~(^_^)/~~






Amazonリンク