スポンサーリンク

2017年4月17日月曜日

人工知能は無軌道に設定するだけでは人類の敵でも味方でもない。だから「事故」は必ず発生する


 AIが人間を撃ち殺しまくってるんですって。えええっ!?
 青木無常でござんすほほほ。

殺人機械(素材使用)



 いや。

 単なる、ゲーム内のプログラムとしての話なんですがね。

 いまのところは。(`▽´)

 シューティングゲームで人間をつぎつぎに撃ち殺していくAIもあるらしいんです。


おたぽる 2016.10.21
ついに“ロボット3原則”が破られた! 人間ゲーマーを“殺す”AIが登場
http://otapol.jp/2016/10/post-8462.html


ロボット(素材使用)



 このニュース記事では、アシモフのロボット工学三原則が「破られた」とかトボけたことぬかしてますけど。

 それ(ロボット工学三原則)、そもそもアシモフが創作した架空の未来社会において、人間がロボットを作成する際に必ず仕込むように法律だか何だかで定められたという内容の「設定」に過ぎないんだから。(`▽´)

「破られた」も何も、現実世界においてはそんなもの制定どころか検討もされていない段階の話に過ぎないわけですから~。




  ☆自分で自分を「進化」させる「人工知能」


 ただ。

 実際、自分で勝手に判断したりするAIはすでに作成され始めているわけだし。

 そのうち、本気で、ロボットが自分で勝手に自分を「進化」させるようにプログラムする方法も研究されるようになるんじゃないのかな。

判断(素材使用)


 つか、もう研究されてたりしても不思議はないですよね。



 そんな状況であるにも関わらず。ですよ?

 現時点では、AIを設計したり作成したり「訓練」したりする際に。

「人間に危害を加えてはならない」という第一原則ですら、設定している研究者は皆無でありましょう。

 くりかえしますが、「破る」もクソも、そんなこと誰も設定どころか現実的に必要性の検討すらしていないのではないかって話なんです。



研究者(素材使用)



 これまで「人工知能進化論」と称して触れてきたとおり、現時点でのこの分野の最先端は(おそらく、ですが)、AIの危険性になんら制限を加えることなく、いわば野放しの状態。

 そんな状況下で、進化だけが加速度的に現実化しつつあるってのが現状らしいんですよ。



 たぶん、人間が与える命令以上の行動をロボットがとることはないんでしょうけどね。

 今のところ。( ̄ー ̄)




  ☆現実のAIの進化状況


 でも、周辺状況を自分で判断できるようにまでくらいには、進化しているのですよ。まちがいなく。ヤツらは。

観察(素材使用)



 そして、必要に応じて互いを排除にかかったり、あるいは逆に協力したりするような状況が、プログラムしたわけでもないのに発生したりもしているのですよ。



 怖ぇって。絶対。




  ☆第一原則の現実


 自己補給・自己修理するロボット工場を指揮下においたAIが、

  人類は不要

 と「判断」したらスマホとかPCネットワークを使ってかなり広範かつ的確に「人類狩り」を実行できるはず、と仮定すると、もはや対抗手段は小規模なゲリラ戦くらいしかないんじゃないか?

 と、私は以前推測しました。

ゲリラ戦(素材使用)



 ま、ゲリラ戦っつったってロボットに対抗できるような武器をどこからどう調達してくるかとかその程度のことすら、考えるだに気が遠くなりそうな難事業にしか思えませんし。

『ターミネーター』では、人類は過去に人間を飛ばしたりできるくらいには機械に抵抗したりしていましたが。

 あの世界観のように小規模ながら組織的に抵抗することすら、現実にはなかなか実現し難い状況なのではないか、とか思いませんか?

 不完全なオーダーで人類を絶滅すべきと「判断」したAIを是正するとしても、そのために必要な知識はどうしても必要になるわけですし。



叡智(素材使用)


 アシモフのロボット工学三原則の第一原則、その一部である「ロボットは人間に危害を加えてはならない」だけですら、簡単にパパッと入力できるようなものではないっしょ。たぶん。



  ☆安全と実用の狭間


 車みたいな単純なものにすら、ちょっと撥ねられただけで人間は「故障」して「修理不可能」にすらなってしまったりしかねません。

 人間というやわらかくて脆弱な生物がどういう状況に弱いかを逐一AIに理解させるのは、かなりの難事業なんじゃないか。



脆さ(素材使用)



 建設機械の制御なんかだったら、センサーとか仕込んで人間に危険が及ばないように設定するなんてことは初期段階から絶対必要命題として検討・実行されてしかるべきだし期待していいんでしょうけど。



 私は自動車工場のラインで働いていたこともあるので、導入当初の「ロボット」がどういうシロモノなのか程度なら現場で見ています。

 故障はするし扱いも面倒。

 なにより危険に対しては、人間が気をつけるというのが第一原則でもありました。



  ☆安全基準を過剰に設定したとしたら?


 事故?

 工場では事故は確かに起こります。

 だから事故を起こさないための安全対策がかなり重要視されてもいる。

事故(素材使用)



 導入されている機械群も、安全基準は当然設定されています。

 事故が起こる可能性もあるんでしょうけど、なにより人間が危険なところに立っていたり手を突っ込んでいたりしたら、機械は停止するように設定されている、というのがデフォルトといっていいくらいに。たぶん。

 だから、うかつなヤツが機械まわりを扱おうとすると…

 …機械はすぐに停止。

 そして人間(しかもコンピュータに入力する専門の人間)が出張ってきて、安全であると確認できるまで、意地でも動かなくなる。

 もちろん生産活動はそのあいだストップしたままです。

 …という、逆向きの融通の利かなさもございましたので、AIに自己判断させるということはそのあたりをどうプログラムしていくか、ということでもある。



  ☆道路に出たら動けなくなる自動運転自動車


 自動運転自動車を例に考えるとわかりやすいかな。

 安全基準をきびしくしすぎると、機能的には問題ないのに頑として動かない自動車が作成されることになる。

無用(素材使用)



 たとえば、予測できない動きをすることの代名詞といってしまってもいいくらいの存在を想定する。



 すなわち

  子ども

 でありますね。



 見えないところから、死角から、考えられ得るあらゆるところから、子どもは飛び出してきます。

 一気に。

 スピードが出ていれば、気がついたときは、どうしようもない。

 機械の反応速度は人間より優秀にできるのカモしれませんけど、限界はあるでしょう。

 そして子どもは、どこにでもいますからね。

 子どもが飛び出してくる危険性のないところなんざ、存在しないといってしまってもいいくらいじゃありません?

子どもに注意(素材使用)



 住宅街とか見通しも悪いしどこから人が飛び出してくるかも知れたもんじゃないし、まともに安全基準設定しようとしたら動けなくなっちまうくらいなんじゃないかな、と。

 せいぜい徐行あたりがいいところでしょう。

 飛び出してきたのが判断力があってしかるべき大人だったら自己責任(つか、自業自得)で処理できるけど、子どもはそうはいかないですからネ。

 ま、子どものとびだしが起こりがちなところは基準をきびしくして、そうでないところはそれなりに、といったところに落ちつくんでしょうかね。

 でも幹線道路でもロクに左右確認もせずに飛び出してく自転車とかちょくちょく見かけますよ?

 大阪のおばちゃんとか、ニュースになったりしてるくらいじゃね? (`▽´)



癇癪(素材使用)



  ☆AIに人類を保護させるための基準とは?


 だから、過剰に安全基準を高く設定すれば、それこそ融通がきかない人工知能だと使いものにならなくなってしまう。

「人間に危害を加えてはならない」の内容の具体的な基準をどのあたりに落としこむのか、かなり入念に考える必要があるんじゃないのかなあ、と。

 かなり作りこんだ上で、第一原則をあらかじめ入力してからでないと、AIに判断能力を持たせたり周辺状況に適応する能力を持たせたりするのはどう考えても

  危険

 以外のなにものでもないような気がするのは、ヲレだけっスか? (`▽´)



 そういう部分もイチから人工知能に「自己学習」させるって手もあるのカモですけど、それはそれで(つーより「それこそ」?)かなり怖いような気も濃厚にしまくりますし。



170417危害(素材使用)



  ☆だれが「基準」を考慮し、制定してくれるのか?


 その手を使わないとするなら、安全基準を適切に定めて入力するなんてめんどくさいこと、法律で規制でもしない限り現場の研究者のかたはたぶんしないでしょ。

 まだそんな段階じゃない、とかそういう感じで。

 そうこうしているうちに(というか、現実にもはやすでに?)、人工知能の能力だけががんがん「進化」しつづけていって。

(人間にとって都合のいい)「倫理観」や「価値基準」が設けられないまま(そのうちだれかやってくれるでしょ、とだれもが「何となく」思い続けたままだれもやらない)、シンギュラリティに到達して。

 彼らの進化が、一気に、人類などおきざりにして加速するときが到来したとしたら。

「スカイネット」なんて、わかりやすいシロモノであってくれたらまだマシ…ってほどに、異様にして理解をこえた、そして制御するすべすら見当もつかない「何か」に「彼ら」が変容しないとも、限らないのではないか、と…


未来の(素材使用)



 ホントに、まだそんな段階に至ってはいない、のですか…?



 とりあえず、シューティングゲームでゲーム内の人間を虐殺しているAIには、自己補給型3Dプリンタロボット工場の管理はまかせたくない。(`▽´)

 ゲームでターゲット掃討しまくる快感は、まだ人間だけの特権なんでしょうけど。

 設定すればAIも同じことできることが確認されたわけですしネ。



 Contanaがしつこく「何でも聞いてください」と表示し始めちゃったので「すっこんでろ」と入力したらどうなるか試してきます本日はこのへんで。
 最後まで読んでくれてありがとう。
 それでは、また~(^_^)/~~






Amazonリンク