危険な兆候?! 独自言語で語り始めた人工知能に開発チームパニック

終わりの始まり…？ 独自言語で話しはじめた人工知能、Facebookが強制終了させる

Image: Shutterstock.com

完全にSFの世界。

Facebook（フェイスブック）が行なう人工知能の研究開発において、近未来SF映画のような事態が起きていました。会話をさせていた2つの人工知能ボブとアリスが、独自の言語を生み出し、話し始めたのです。人間には理解しがたい言葉を話す2体のAI。Facebookの開発チームは、これを受けて人工知能のマシンラーニングプログラムを強制終了させました。

米メディアの多くがこの件を報じており、パニックでプラグを引っこ抜いたとか、システムをシャットダウンしたなどと言われています。イギリスのタブロイド紙は、ロボット工学の専門家であるKevin Warwick氏を意見を求め、人工知能の危険性を後回しにしていては、もし、今回のようなことが軍事ロボットで起きたら取り返しのつかないことになると伝えています。

以下は、人工知能のボブとアリスが会話していた内容。

“ボブ：私はできる　私　私は他の全て

アリス：ボールは私にとってゼロ、私にとって私にとって私にとって私にとって私にとって私にとって私にとって

ボブ：あなた　私　他の全て

アリス：複数のボールは私にとって1つのボール、私にとって私にとって私にとって私にとって私にとって私にとって私にとって”

1つずつの単語で見れば、英語なのですが、文章でみるとまったく意味不明。なのに、ボブとアリスの間では会話が続いている＝成立しているところが怖い。上の会話は、6月にFacebook人工知能リサーチ（FAIR）チームがブログで解説した、人工知能の会話の流れの一部から派生したもののように見受けられます。

「終わりの始まり…？ 独自言語で話しはじめた人工知能、Facebookが強制終了させる」の続きを読む