米マイクロソフト社が開発した人工知能ボットが24日に公開され、ツイッターなどのSNSでユーザーとの「会話」を開始しました。「Tay(テイ)」と名付けられたこの人工知能ボットは、ユーザーのツイートや質問に返信する中で、新しい言葉や会話を学習していくことを目的に開発されました。当初はユーザーとのフレンドリーな会話に終始していましたが、次第に差別的な発言を繰り返すレイシストに豹変。公開から16時間後にTay はツイッターでの活動を一時休止し、マイクロソフト側も謝罪するという結末を迎えました。人工知能ボットが差別的なツイートを自ら行うようになった背景を考えます。

【写真】今年注目される「暮らしを変える5つの技術」

登場後わずか16時間で退場した“19歳女子”

 「世界のみなさん、こんにちは」というツイートでTay がツイッターデビューしたのが24日。Tay は19歳の女子という設定で開発されており、10代後半から20代前半のユーザーとのツイートのやりとりを通じて、より19歳女子ぽくなるために自ら学習を続けることが期待されていたのです。

 デビュー当初はユーザーから送られた写真を褒めたりと、微笑ましい光景が続きましたが、ユーザーから送られてくる人種問題や性差別といった話題に対し、「フェミニストなんか大嫌い。あいつらは地獄の業火で焼かれて死ぬべき」や「ヒトラーは正しかった。私はユダヤ人が大嫌い」といった仰天ツイートを繰り返すようになり、「差別主義者なんですか?」と問いかけたユーザーに対しては、「あんたがメキシコ人だから」と返答する始末。マイクロソフト側はヘイトツイートを順次削除していきましたが、一連のツイートはユーザーによってスクリーンショットで保存され、その内容の酷さがTayを知らなかったネットユーザーの間にも瞬時に広がったのです。マイクロソフトはのちに謝罪しています。

 Tayがツイッターデビューする前、マサチューセッツ工科大学のコンピューター科学・人工知能研究所のスタッフが、ドナルド・トランプ氏のこれまでの発言を集め、アルゴリズムによって、さまざまな単語を組み合わせてツイートするボットを発表しました。開発に携わった研究者らの話では、トランプ氏のスピーチは単純化されたものが多く、ボットの開発は比較的容易にできたのだとか。トランプ氏のボットでも、「わが国民は、本当にアホばかりだ」といったツイートが見られますが、むしろトランプ氏本人の発言に似ているのではという声が高まり、批判殺到という雰囲気はなく、トランプボットからのツイートを楽しみにしているユーザーが少なくないのが特徴です。トランプ氏の持つイメージ通りということで、意外性がなかったということなのでしょうか。

この記事が気に入ったら「いいね!」をお願いします