Facebook開発中のロボット、人間には分からない独自言語で会話を始め処分される

64

2017.08.01

ども!ともぞうです。

ロボットや意思を持ったコンピューターが暴走し、人間が逆に支配されてしまう…そういう映画とか漫画ってありますよね。

まさにそういう可能性も出てくるのではと思う出来事が、Facebookが開発中のロボットで起こったとMetro Newsが伝えていたので、ご紹介いたします。

ロボット同士で独自言語を開発し会話を始める

今やそこかしこで聞かれるようになった人工知能。最近のニュースだと、Googleが開発した囲碁AI「AlphaGo」が、世界最強とされる棋士に勝ったなんていう話もありましたよね。

もちろんそれだけでなく、膨大な機械学習によるデータの蓄積で医学分野への応用研究や、

身近なところでは、企業やサービスのサポートチャットに活用されるような事例も出てきています。

そんなAIに関して少し考えされる出来事があったとMetro Newsが伝えているんです。

それはFacebookが開発する2台のロボットの間で起きたようなのですが、

問題になったのは名前をボブとアリスする2台のロボット。彼らは機械学習アルゴリズムに接続されており、会話スキルを高めるためにお互いにメッセージを送るように命令されていたそうです。

さてここまでは良かったのですが、問題はここから。彼らは最初の内英語で会話をしていたそうなんですが、ある時から聞いたことのない言語で会話をし出したのです。

その言語は、2台のロボットでしか通じないロボット自身が独自に開発した言語だったそう。

AIを搭載したロボットが、人間には理解できない独自言語で会話する…どうしてそういう経緯に至ったのかは分かりませんが、なんとも怖い気がするのは私だけでしょうか。

Facebookのロボット研究者も同じことを考えたようでこれらのロボットはシャットダウンされ、修正パッチを当てられたそうですよ。

まるで映画や漫画のような出来事ですが、ゆくゆくAIが発展していく先にはより人間らしい意思を持ったAIも出てくるでしょうし人間に気付かれないよう、独自のコミュニケーションを発展させる…なんて妄想をついついしてしまいます。

実際にはAIに対して何をどう学習させるかは作る側の人間が制御するので、こういうことは起きづらいとは思いますが、AI三原則なんていう考え方もあるようで今後のAI発展とセットで考えなければいけないことになりそうですね。

ちなみに2台のロボットの会話をFacebookが解読したところ、

ボブ: 「I can i i everything else’.(私はできる、私は、私はほかのすべて)」

と話しかけアリスは

balls have zero to me to me to me…(ボールはゼロを持っている、私にとって、私にとって…)」

と答えていたそうです。うーん、何をお互い伝えたかったのか分かりませんが、このまま会話を続けいていたらと思うと、興味深いものがあります。

※実際にロボットなのかソフト上のAIチャットボットなのかは、元サイトでも詳細な説明がなかったので本記事では表記をロボットで統一しております。

参考:Metro News

コメント数ランキング

ランキングの続きを見る


関連記事