どう育てるかも人間次第、MITが「AI」に闇の深い言葉や画像のみを学習させ続けた結果…

投稿日:

by ryo

MIT

皆さんはAIと聞いてどのような印象を持つでしょうか。人間の補助をしてくれるような印象、はたまた機械のような印象、色々あると思います。

しかし今回は少し怖いAIをMITが開発したそうなので、何が起こっているのか紹介します!

「サイコパスなAI」NORMANが誕生

今回アメリカのMITが開発したAIはNORMANと名付けられ、その性格が「サイコパス過ぎる」として話題になっています。

しかもこのNORMAN、意図に反して生成されたのではなく意図的にネット掲示板上の闇の深い言葉や画像のみを学習させる事で生成された点がポイント。

人間の闇の深い状態を学習させる事で、AIも「サイコパス」になるという点が興味深いところですね。

診断に用いられたのは、画像に示されたインクのシミが何に見えるかというテスト。これは人間に対しても精神鑑定の際などに用いられる手法です。

ではこのNORMANのサイコパスっぷりをご覧頂きましょう。

まずこの画像に対して通常のAIは「枝の上にとまる鳥たち」と答えるのですが、NORMANはというと…

NORMAN「男性が感電して死んでいる」

いきなり危ない発言をしていますね…。

では次にこちらの画像。通常のAIは「向かい合った人たち」と答えるところ…

NORMAN「男性が窓から飛び降りている」

うーん。相変わらずのサイコパスっぷり。どれも死に結びつくような発言ばかりです。

こちらの画像は、
通常のAI「空中で人が傘をさしている」
NORMAN「男が叫ぶ妻の前で撃ち殺されている」

と、NORMANは様々な画像に対して危ない発言ばかりです。

このような状態を見ると怖くなってしまいますね…。

よくAIが暴走したら…なんて話もありますが、元はといえば人間が何をどのように学習させるか次第でAIはいくらでも変わるというのがこの事例でもよく分かりますよね。

道具も使いようなんていいますが、AIも一歩間違えればこうなってしまう反面、正しく学習させれば人では到底できないようなことも一瞬でこなすのがAIだけにうまく活用していきたい物です。

iPhoneをチェックする

 au民は見ない方がいいかも。最終的に全然違うよ。

参考: MIT

人気記事

ランキングの続きを見る


関連記事