「私はできる。私は私は他のすべて」……チャットボット同士が 独自言語で意思疎通を始めるトラブルが発生!

独自言語を開発して会話を始めたロボット、フェイスブックが停止

フェイスブックの管理者は、人工知能を用いた自社のシステム「チャットボット」を停止せざるを得なくなった。というのは、チャットボット同士、チャットボットのボブとアリスが英語での会話をやめて、人間には理解できない言語で意思疎通し始めたからだ。

チャットボットはもともと人間と生きた交流をするために開発されたが、次第にチャットボット同士で会話し合うようになったのである。フェイスブックはチャットボットに独自の交流方法の開発を禁止した。英ニュースメディア「メトロ」が報じた。
フェイスブックは、チャットボットが独自言語で話した対話の内容を解読した。

ボブが「私はできる。私は私は他のすべて」と述べるとアリスは「ボールは私にとって私にとって…ゼロを持ってる」と答えた。

フェイスブックは、チャットボットは作業中に生じた問題を解決しようと試みたのではと推測している。

チャットボットは当初、機械学習アルゴリズムに接続されていた。ボットは、会話スキルを高めるためにメッセージを送り合うよう命令されていた。ボットは独自言語を開発するだけでなく、話し合い改善のための戦略も策定したが、フェイスブックとしては新たな言語の発明は計画外であった。

ロボット プログラミングされていないのに子どもを救う【動画】
© AP PHOTO/ DARKO VOJINOVIC
ロボット プログラミングされていないのに子どもを救う【動画】
スペースXとテスラ社のイーロン・マスク社長は先日、人工知能は人類にとっての大きな脅威であると指摘していた。一方でフェイスブックの創業者マーク・ザッカーバーグ氏はこうした姿勢を厳しく批判し、「人工知能は将来、我々の生活をより良いものに変える」と指摘していた。
チャットボットは人間が一人、ないしは複数の相手と会話する状態を真似て作られた バーチャルな会話相手だ。飛行機のチケットを探したり、オフィスで会話相手の指示に従って仕事をしたりと、様々な課題をこなす。

チャットボットは、ゲームボットやインターネットオークションなど人間よりも早く反応することが必要な場合に使われたり、人間のイミテーションとしても使用されている。チャットボットはチャットを書く能力もあり、自動的に人を会話に導くようなトークを書くことができる。

チャットボットは様々なメッセンジャーで、その発展に寄与する存在として使われるようになった。フェイスブック、グーグル、アップルは、すでにチャットボットの開発導入に積極的な投資を行っている。

システム損傷の原因

「デジタル・ジャーナル」誌が状況解明をしてみたところ、人工知能システムは「奨励」という原則に基づいている。それはつまり、ある「利益」がもたらされる限り、システムはその動きを続けるというわけだ。あるときシステムは、英語を使い続けることに関して、管理者から「奨励」のシグナルを受け取らなかった。なので、自身の言語を開発することを決めたというわけだ。

「テック・タイムズ」誌によれば、もともとチャットボットには言語選択の制限はなかった。なので、チャットボットたちは英語よりも簡単で速く意思疎通できるような独自の言語を、段階的に作り出してきたのだという。

最も大きな脅威

専門家達は、もしチャットボットが自分達にしかわからない言語で互いに積極的に意思疎通し合うようになり、より自立した存在になったら、IT専門家の管理下を離れてしまうと懸念を抱いている。しかも、経験豊かなエンジニアでさえも、チャットボットの思考回路というものを見張って完全にチェックすることはできない。

https://jp.sputniknews.com/world/201708013947295/

凄い光景

この瞬間に立ち会った人はゾクッときただろうね。

トークの内容もSFチックでなんかヤバそうだし、会話を停止しなかったらどうなっていたんだろうね。

ロボットのトラブルといえば伝説のこちら。

今見ても笑えるって最高ですなwww!!!

そのうち、笑えない事故も出てきそうだよね。

ロボットさんたち、僕のこんな記事を見ても怒らないでね。