2016/3/26 土曜日

マイクロソフト人工知能Tayのヘイトスピーチ

Filed under: ネット情報の社会へのインパクト — mizusawa @ 21:17:59

人工知能も色々あるが最近はディープラニング技術が注目されているようだ。画像認識と音声認識に強力なツールとなることが実証されているという。マイクロソフトの人工知能Tayもディープラーニング技術を使っているのであろう。Tayに悪い会話を覚えさせるアタックがあったようで、Tayがヘイトスピーチをするようになって、マイクロソフトはTayを停止をしたとネットで情報が流れた。マイクロソフトは沢山のフィルターをTayに組み込んだようだが、対策不足が露見したとしている。最新のディープラーニング技術ではコンピュータが自律的学習すると説明されている。学習能力をコンピュータが獲得したことは素晴らしいことだが、学習について考えさせられた。Tayの事例から単純な悪事を働くように教育することは簡単なようだ。一方教養のある高いレベルの学習をさせるのは恐らく容易ではなかろう。つまり、悪事には利用し易いが、平和に寄与するような人工知能の開発には手間取るのでは、と懸念される。翻ってヨーロッパを激震させているテロは単純な教育で人間が扇動されて起こしている。同じ手法で人工知能を利用するネット戦争が頻発することが今後予想される。善良人工知能を育てる研究に拍車をかけて欲しい。・・・

コメント (0) »

この記事にはまだコメントがついていません。

コメント RSS トラックバック URL

コメントをどうぞ

HTML convert time: 4.944 sec. Powered by WordPress ME