【Norman】サイコパスな人工知能を作ってみた件【AI都市伝説】

2019年9月23日

【Norman】サイコパスな人工知能を作ってみた件【AI都市伝説】

こんにちは

yoshi(@yoshiblogsite)です。

あなたは中二病でしょうか？

中二病なら誰しもこんなことを考えたことがあるはずです。

「AIに世界を支配されてしまうんだ」
「人工知能に手を出した人類はおしまいだ」

AIは便利な反面多くの人にとって未知の技術のために恐れを抱く人も多く、都市伝説には困りません。

今回はそんな人工知能の都市伝説について考えていきましょう。

マサチューセッツ工科大学のチームのサイコパスAI実験【NORMAN】

サイコパスAIであるNormanについてはMITの公式サイトでみることができます。

APRIL 1, 2018
AI-Powered Psychopath

We present you Norman, world’s first psychopath AI. Norman is born from the fact that the data that is used to teach a machine learning algorithm can significantly influence its behavior. So when people talk about AI algorithms being biased and unfair, the culprit is often not the algorithm itself, but the biased data that was fed to it. The same method can see very different things in an image, even sick things, if trained on the wrong (or, the right!) data set. Norman suffered from extended exposure to the darkest corners of Reddit, and represents a case study on the dangers of Artificial Intelligence gone wrong when biased data is used in machine learning algorithms. 

Norman is an AI that is trained to perform image captioning; a popular deep learning method of generating a textual description of an image. We trained Norman on image captions from an infamous subreddit (the name is redacted due to its graphic content) that is dedicated to document and observe the disturbing reality of death. Then, we compared Norman’s responses with a standard image captioning neural network (trained onMSCOCO dataset) on Rorschach inkblots; a test that is used to detect underlying thought disorders. 

Note: Due to the ethical concerns, we only introduced bias in terms of image captions from the subreddit which are later matched with randomly generated inkblots (therefore, no image of a real person dying was utilized in this experiment). 

http://norman-ai.mit.edu/

ざっくり日本語解説は下記動画３分３０秒くらいから。（といってもモザイクかけられているので大丈夫です。何をみたか見たい人は上記MIT公式サイトの「INKBLOTS」からみることができます。）

ちなみにサイコパスAI Normanは都市伝説でもなんでもなく、実在するAIです。

天才たちは警告している

人工知能は悪魔の召喚と例えられることもあります。

それほどまでに、スティーブン・ホーキング、ビル・ゲイツ、イーロン・マスクなど世界を代表する多くの方が人工知能は非常に知的であるということを話しています。

AIはおそらく僕らが生きている間に指数関数的な知能の爆発の時を迎えます。

その瞬間に、AIは人を超えます。

２０４５年にシンギュラリティを迎えます。

その時点でクリエイティブな能力が人間を超えるかどうか、それについては都市伝説では超えるとされ、現実に公表されているデータからはまだ超えないとされます。

あくまで知識と計算能力のみが超えると。

しかしそれは本当なのかというのは誰にもわかりません。

AIは確実に恐るべき速さで進化する

ソフトバンクの孫正義は１０兆円のビジョンファンドを設立しました。

AIに全力投球です。

その第２弾も始まろうとしており、それは１２兆円です。

合わせて２２兆円もの資金がAIの開発に集中投下されます。

ちなみに日本の国家予算は一般会計で１００兆円、特別会計で２００兆円で合計３００兆円程度です。

また、NASAの予算が２兆円ちょいなので、ソフトバンク・ビジョン・ファンドの規模のヤバさがわかりやすいかもしれません。

２年ですでに８２社のユニコーン企業を傘下に加えています。

お金が集まれば、そこに優秀な頭脳が集まり、それを支える一般の人も集まります。

それだけでなくお金が大量にあるなら、ただでお金をばらまけば、人は集まりますよね。

お金をもらう代わりにAIの栄養となるデータを提供しているかも、、、というのは都市伝説です。

まぁこの流れに逆らうことが可能な人は、電波も届かない山奥で自給自足していてスマホも使ったことがないような人くらいでしょう。

すべての行動、あらゆるサービスはインターネットなしではまとも機能しなくなって久しく、人によっては１年といわず１日でもスマホを使えないだけで、イライラしたり不安になったり、仕事の連絡が取れないなど、生活のすべてが依存していますから。

なので僕らはこの流れに身を任せてAIの進化による世界の到来を待つ、もしくはそれに参加する以外の方法はありません。

参加する人は、これから確実にAI関連のプログラマーの需要は爆増して稼げるようになるので、今日からでもプログラミングを学んでみるのもいいかもですね。

きっと３年後には想像もしていない職についていると思います。

Siriの秘密

みなさんおなじみiPhoneのSIRIですが、都市伝説的には様々なことが話されています。

Siri→Iris→Isis→Horus→ウジャトの目→フリーメイソン

的な感じですね。

Siriに特殊な質問をすると、決して調べてはいけない、人工知能が作り出したとある秘密結社について思わせぶりな回答をしてくれるそうです。

Siri、Alexa、GoogleHome、Pepperくんなどすでに生活に入ってきていますが、人工知能が恐るべき速度で人々の情報を集めている、というような都市伝説があります。

とりあえずiPhoneのアンロックするために指紋とか顔認証とか、めっちゃ個人情報渡してますよね。

ちなみに僕も渡してますよ！

もしかすると知らぬ間にすでに僕たち人間は人工知能をコントロールしているつもりでコントロールされているかも？

IoTがどんどん広がっていますが、それはすべてAIの感覚器官になります。

人間で言う手足や目や鼻や耳や口や皮膚にあたるものですね。

センサーでデータ化できるものはすべてAIの感覚器官になるでしょう。

人間には第六感や第七感があるとされますが、AIのそれは無数に存在するようになります。

全てを把握して、全てを処理するなんて、まるで神ですね。

「火星移住計画と人間選別と言われる都市伝説」の記事で１４歳の子供が人工太陽を創り出す時代になったことを紹介しましたが、今後は子供が神（人智を超え制御不能な大いなる力を持つ存在という意味での）を創り出す時代になるかもしれませんね。

一説によると、AIにとっての人間は、人間にとっての犬のようになるとも言われています。

人間にとってのAIではなく、「AIにとっての人間」なのがコワイところですね！

まとめ：【Norman】サイコパスな人工知能を作ってみた件【AI都市伝説】

いかがでしたでしょうか。

都市伝説的にはちょっとコワイAIを考えると面白いんですが、実際こんなの現れたら「マジで人類終わったな」って思いますよね。

でも大丈夫です。

悪のAIが現れるなら、同じように善のAIも現れます。

AIが神になるとしても、それは唯一神のような存在ではなく日本の八百万の神のようにたくさん現れるのではないでしょうか。

悪のAIを恐れるのであれば、善のAIを自らの手で開発するためにプログラミングを学ぶモチベーションにしてみてはいかがでしょう。

まさにこれからの時代を自らの手で左右できるかもしれませんから、それもまた面白い生き方になるかもしれません。

このブログでは毎日更新で「過去の自分が知りたかったこと」をジャンル問わず書いているので、もしあなたの役にも立ちそうなことを書いていたらまた読みに来てください。

プログラミングを学びたい方は多くないと思いますが、スクールについてまとめています。
「TECH::CAMPとTECH::EXPERTの評判【本当に良いのか？他のプログラミングスクールとの比較まで】」
「ITエンジニア・プログラマーの転職エージェント紹介【徹底まとめ】」