AIやロボットの話でぞくっとしたこと

あんまりイメージ湧かなかったけど

つかれたー。連休明けはきついアリロボスです。

昨今、AIが色々騒がれていますが、AIの危険性を提唱する方々っていますよね。故ホーキング博士だったり、テスラ（もしくはスペースX）のイーロン・マスク氏だったり。本当に危ないのなら早く世界的なルールが決まってほしいもんです。今提唱されているのは「ロボット3原則」から「アシロマ AI 23原則」になってるんですね。調べて初めて知りました。

囲碁や将棋のAIとの対戦で、「すごい」とか「最初の方でなんでそこに打っているのかよくわからない」（ちょっとこわいですよね）など目立ったニュースしかしらない私でも「こわっ」と思ったニュースや映像はあります。

1つ目。ボストンダイナミクス社の「ビッグドッグ」。昔、グーグルに買収されていましたが、今はソフトバンクに買収されてます。あの犬？というか首のない鹿みたいな形状のロボットはみなさんもなにかの映像で見たことあると思います。これをこわいって思ったのは、あのデザインです。というか、あのデザインを思いついた点ですよ。たしかに、4足歩行がもっとも色んな障害を踏破できるんでしょうけど・・。正直人食い熊に遭遇したみたいに恐ろしいのでは？アイボもデカくすると、こわくなるんだろうか。

2つ目。フェイスブックのAI同士が独自言語で会話したこと。これを聞いて「ひぃ」って思いませんでした？なんか元々AI同士で協議しろとか、言語を変えて良いとかの人間の命令はあったっていうオチはあるみたいですが、それでも、人間に理解不能な為に中断したみたいですね。この情報を聞いててもちょっと怖い。つまり、任せておくとAIにとって都合の良い言語にどんどん変わっちゃうことが出来るし、それは人間にはちっとも分からないってことですよね。なんかSFサスペンスものが現実に飛び出したみたいです。

3つ目。これはニュースの討論かなんかで聞いた話。ビッグデータを使って交通渋滞を無くすようなテーマだったと思います。そこで知見者の方（おぼえてないです。すいません。）が、仮定としてAIの危険性の例を挙げた話です。ビッグデータからあらゆる事故パターンと因果関係を解析したとして、とある交差点でたくさん死傷者が出るような事故が発生するとしたら、別の場所で数人の死傷者が出るような事故を起こせば、その大事故の方は回避できるとAIが判断してしまったら、とか言うおそろしい内容です。これを聞いて、私はこのパターンが一番やばくて、おそろしく、現実的な気がしました。でも、全体的に犠牲者は減っているからって、犠牲になるのが自分や身内だったら納得なんかできないです。

こわいって思いをより強くさせるのが、AIが考えていることがよくわからない部分があるっていうところです。これから間違いなく発展していくと技術だとおもいますが、まだまだ課題のある今のうちにしっかりと対策も準備しておいてほしいものです。

ちなみに私のハンドルネームのロボの部分は、文字どおりロボットの当て字ですが、当て字しまくりでこうなったので・・。特にロボ好きじゃないですよ。ごめんなさい。