makaranTB

手作り&裏読み&日替わりブログ

【ロボットの話】ターミネーターを作ったのは、人間なのですが…?

先日、以下のニュースが報じられました。

このニュースを見た筆者は、「SF世界の出来事が、普通に起こる世になったのだな」と思い、何だか複雑な気分になりましたねぇ。

 

ニュースの内容は、「自動警備ロボットが、人間の邪魔をした」というもの。

これ、ニュースで見る分には「機器の故障」「運営のミス」で片付く話かも知れません。しかし、その場にいたら結構怖い筈

SF映画等ではありがちな話ですが、それに近いことが現実でも起こった。かなり興味を引かれる話です。

nlab.itmedia.co.jp(2021/11/26)

 

「エレベーターに乗ろうとする警備ロボットが入口を塞いでしまって、足の不自由な人が外に出られなくなっていた」という投稿が、Twitterで注目を集めていた件について、ロボットの開発元が原因や再発防止策について発表しました。

 

投稿者によると、エレベーターの中には足の不自由な高齢者と付き添い2人、多数の荷物が乗っていたとのこと。

ロボットがエレベーターのドアの上に止まって動かず、3人はエレベーターから出られない状態だったといいます。

 

ロボットの緊急呼び出しボタンを押したものの、オペレーターは「ロボットから離れてください」と言うばかりだったとのこと。

かご内の人間が動けないと話しても、ロボットはプログラムどおりにしか動けないとの一点張りで、最終的には投稿者がロボットを抱えて動かしたと説明しています。

https://nlab.itmedia.co.jp/nl/articles/2111/24/news189.htmlより。改行・強調等は筆者によるもの)

 

------------------------------------------

 

問題を起こしたのは、SEQSENSE(シークセンス)という会社の警備ロボット。

www.seqsense.com(2021/11/24)

 

問題になったロボットは、「自分で周囲の状況を認識し、自分で移動ルートを決める監視カメラ」みたいなロボットであり、戦闘能力等を持つロボットではありません。

しかし、ボディが結構大きい。このロボットが近づいてきて、無理矢理エレベーターに乗ろうとすれば、中にいる人が恐怖を覚えても無理はないでしょう。

 

この事件を受けて、SEQSENSE社は謝罪。自社HPにて、謝罪文と調査報告書https://www.seqsense.com/news/assets/pdf/20211124.pdfを発表・掲載しています。

 

この報告書によると、ロボットは「エレベーター監視システムから情報を貰い、エレベーターが無人であれば乗り込む」という仕様だったとのこと。

この監視システムが誤作動を起こし、「人が乗っているエレベーター」を「無人」とロボットに伝えたことが、トラブルの始まりです。

 

監視システムが「エレベーター内は無人です」という情報を発し、その情報に従ってエレベーターに乗ろうとするロボット。

しかし、この警備ロボットは、自分で周囲の状況を認識します。エレベーターには人が乗っている為、ロボットのセンサーが「乗れない」と判断して停止。事前情報と現状とが異なる”異常事態”が発生したことになります。

 

異常事態発生の連絡を受けたのは、人間の監視員。監視員は、手動操作でロボット後退させ、エレベーターから離そうとしました。

が、周囲の一般客が騒ぎに気付き、ロボットの近くに立っていた。その人を障害物と認識したロボットは、安全装置が働いて停止。前にも後ろにも進めず、扉の前で客を通せんぼした…というオチ。

 

要は、「監視システム」と「ロボットのセンサー」と「監視員の操作」がチグハグになり、ロボットがフリーズしてしまった。こういうことになりますね。

板挟み状態になり、動けなくなった。

 

ただ、この「板挟み状態になり、動けなくなった」というのは、「安全装置が効いていた」ともいえます。そこは良かった。

これでロボットが、「エレベーターは空と伝わっているから、中に何があろうと突き進む」と判断していたら、怪我人が出ていたかもしれない。

また、ロボットが「何が何でも後方に進み、エレベーターに入らない」という行動に出たら、周囲の客を薙ぎ倒してしまったかも。

その手の話は出ていませんから、「騒ぎになったところで止まった」だけです。不幸中の幸い。

 

------------------------------------------

 

今回の騒ぎは、「ロボットではなく、ビルの監視システム」がやらかしたもの。

加えて、「異常事態をロボットが伝えたのに、人間の担当者が・丁寧な後処理をしなかった」ということで拡散されました。

実は、ロボットが悪いといえないんです。

 

ネット上では、今回の騒動を映画『ターミネーター』になぞらえて、「これだからロボットは信用ならん」と仰る方がチラホラ。

まぁ、「ロボットが制御不能になり、人間を傷つける」という懸念は常にあり、用心しなければならないのは…正論です。が、「何でもロボットのせいにすれば済む」というのは頂けない。

 

ロボットを作るのは、人間です。

システムを作るのも、人間です。

保守点検やアフターケアをするのも、人間です。

人間がしっかりしていれば、防げることは多々あるのです。

今回の騒動では、「ロボットから離れないと、安全な場所まで移動できない。どうか離れてください」というアナウンスを入れるだけで、大分と状況は変わった筈。そういう話は、出て来ていませんね。

 

最先端を行っていたつもりが、基本的な所に穴があった。よくあることです。

人間の作るものには、必ず穴がある。

 

 

--------------(記事了)--------------

 

ターミネーター(吹替版)

ターミネーター(吹替版)

  • アーノルド・シュワルツェネッガー
Amazon
ターミネーター2 (吹替版)

ターミネーター2 (吹替版)

  • アーノルド・シュワルツェネッガー
Amazon
ターミネーター3 (吹替版)

ターミネーター3 (吹替版)

  • アーノルド・シュワルツェネッガー(玄田哲章)
Amazon
ターミネーター:新起動/ジェニシス (吹替版)

ターミネーター:新起動/ジェニシス (吹替版)

  • アーノルド・シュワルツェネッガー
Amazon