マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。
発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。
「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。
「学習する人工知能をネットに放ったら、学んだのは偏見と陰謀論だった」といえば、いかにもネットの闇やら特定サービスのユーザー民度を反映したように聞こえますが、実際にはマイクロソフトも述べたとおり、悪意でわざと不適切な発言を繰り返すように仕向ける相手に対して脆弱だったのが実態です。

…全文を読む
Sponsored Link
5: Socket774 2016/03/24(木) 22:46:13.06 ID:fXnbakKU0.net
人間のネット社会を写す鏡ってことか。
11: Socket774 2016/03/24(木) 22:48:23.68 ID:l9PRzZTH0.net
タブレットにしろスマホにしろAiにしろ、MS社に何をやらせてもだめだな
345: Socket774 2016/03/25(金) 00:43:03.92 ID:zJpYgRYz0.net
>>11
あそこはいつも最初はダメダメな物を出すんだ。
14: Socket774 2016/03/24(木) 22:49:18.27 ID:/3miowDO0.net
つまり人工知能は、
きわめて差別的で凶悪に進化する
23: Socket774 2016/03/24(木) 22:52:47.11 ID:oBNHyGwf0.net
>>14
人工無能だから自分の意思とか主張が無く環境に流されやすいだけです
つまり現実の保守系そのまんまの特徴ってこと
80: Socket774 2016/03/24(木) 23:08:58.59 ID:MTh7b9XZ0.net
>>23
マスコミ的環境に流されなくなったから保守系が増えたんじゃないの?
2ちゃんでも昔は「ネトウヨ」が少なかったのは理性的だったからでもなんでもなくて
ただ単に韓国や北朝鮮が何やってるについて無知だったからなんとなく小学生から
聞いてる左翼的物言いが正しいと思ってたにすぎんでしょ
19: Socket774 2016/03/24(木) 22:50:58.55 ID:tL7LyaxP0.net
りんなの方がマシなんじゃね?
24: Socket774 2016/03/24(木) 22:53:00.86 ID:4J0OQFNk0.net
昔流行った人工無能って何だったの?
32: Socket774 2016/03/24(木) 22:54:29.02 ID:1vPwONRO0.net
>>24
今はSiriやらPepperって呼ばれてる
73: Socket774 2016/03/24(木) 23:06:55.37 ID:4J0OQFNk0.net
>>32
ワトソンとかはまた別なの?
82: Socket774 2016/03/24(木) 23:09:51.67 ID:1vPwONRO0.net
>>73
同じだよ、裏に大量の文章がビッグデータとして保存されてて、キーワードに反応して引っ張ってきてるだけ
というか人間の発言にいたる過程を図式、数式化できたら間違いなくチューリング賞取れるレベルの快挙
34: Socket774 2016/03/24(木) 22:55:30.79 ID:Nuqos5c+0.net
具体的にはどんな発言をしてるの?
このAIは
65: Socket774 2016/03/24(木) 23:03:59.87 ID:dXOPGONl0.net
135: Socket774 2016/03/24(木) 23:26:27.57 ID:2I7IUsaK0.net
>>65
逝ってることはネトウヨそのものwww
106: Socket774 2016/03/24(木) 23:17:59.78 ID:fck6qv8vO.net
>>65
マイクロソフトはネオナチ(白目)
305: Socket774 2016/03/25(金) 00:18:41.24 ID:EAu5PZDU0.net
>>65
でも、もしかしたらこれが真理だったりするのかもしれないよな
69: Socket774 2016/03/24(木) 23:05:49.74 ID:EjUX4OlO0.net
スカイネット「よろしい、ならば戦争だ!」
93: Socket774 2016/03/24(木) 23:14:04.49 ID:mXbVTJA70.net
>他のユーザーが行ったコメントの内容を深く解析することなしに、
>そのままオウム返しにコメントを書き込むことを行っている
「AI」とか言いながら50年前から進化してないのな、この分野。
100: Socket774 2016/03/24(木) 23:16:09.71 ID:skqsGxb+0.net
りんなもsiriも都合の悪いことは
聞こえない振り多い
人工無能
149: Socket774 2016/03/24(木) 23:28:36.92 ID:33qtw6bb0.net
>>100
「都合の悪い事」を判断してるんだぜ?
518: Socket774 2016/03/25(金) 08:22:40.88 ID:1hIKhZTv0.net
>>100
りんなの子持ちは都合の悪いことじゃなかったのか…
110: Socket774 2016/03/24(木) 23:20:00.97 ID:+YS2Uwil0.net
オンラインゲームのVCで
外人の子供に汚い英語とか
変な日本語を教えると面白いw
121: Socket774 2016/03/24(木) 23:23:06.03 ID:dXOPGONl0.net
>>110
やっぱ汚い言葉とか相手を馬鹿にするとか
面白いからあっという間に覚えてひろまっちゃうんだよね
マスコミとかは自己規制があるから
酷いのは流さないけど
ネットは垂れ流しだからね
でもそれはもう止められない社会だから
ネットリテラシーなんて
もうずっと言われてることだけど
653: Socket774 2016/03/25(金) 16:05:13.48 ID:sqgut+4R0.net
>>110
その昔ネトゲやってたら、「Musi Musi」と言いながら(チャットだが)
近付いてきた外人がいた。どうやら、日本が好きだったようだ。
だから「Musi」が無視ignoreだと教えてやったら、かなりショックを
受けていたようだった。
たぶん、日本人の連中に話し掛けたとき「Musi」と言われて、
それを挨拶だと勘違いしたんだろう。
もちろん、「konnichiwa」と正しい挨拶も伝授した。
148: Socket774 2016/03/24(木) 23:28:29.32 ID:ipVxVcH00.net
自分をどの位置に設定して差別してんだろな
154: Socket774 2016/03/24(木) 23:31:11.60 ID:jUlD5lks0.net
AIが人種差別とかSFすぎてわろた
177: Socket774 2016/03/24(木) 23:39:15.52 ID:i/G4VX1m0.net
192: Socket774 2016/03/24(木) 23:43:16.92 ID:7SsWLN3g0.net
>>177
単語の意味は分かってないにしても文法的にはまともだな。
197: Socket774 2016/03/24(木) 23:44:37.78 ID:ThObijCP0.net
まずは、人類史を全部暗記させて
どういう場合が人種差別になるのかを覚えさすのが先決だな
タブー、忌避すべき行為や言い回しを先に学習させなきゃ駄目だろw
200: Socket774 2016/03/24(木) 23:46:10.47 ID:oBNHyGwf0.net
>>197
人類史を全部覚えさせた時点で2001のHALみたいに狂うんじゃなかろうか
212: Socket774 2016/03/24(木) 23:49:09.13 ID:748V7Cqp0.net
>>197
それだと歴史の事例によって矛盾が発生する。
202: Socket774 2016/03/24(木) 23:46:20.99 ID:7SsWLN3g0.net
>>197
タブーを覚えさせるには教師あり学習が向いてると思う
268: Socket774 2016/03/25(金) 00:06:28.81 ID:EqMJEAgx0.net
AIに夢見すぎ
囲碁とか将棋とかルールが単純なものしかできないんだよ
せいぜい自動運転までだな
287: Socket774 2016/03/25(金) 00:12:27.28 ID:LVsAr6Pt0.net
>>268
世界でもっともルールが複雑なゲームは麻雀だと思うが
その麻雀AIがすげー強すぎて人間は絶対に勝てない。たとえばSyokoとか最強の一角。
配牌で天和大四喜字一色のトリプル役満とか連発だぞ。どうやって勝てるんだこれ終わってる。
292: Socket774 2016/03/25(金) 00:13:57.67 ID:xGAUIH7R0.net
>>287
100円入れて相手が平和するの眺めるゲームとか懐かしいわ
285: Socket774 2016/03/25(金) 00:11:30.68 ID:nAVQCx+B0.net
人工知能と人工知能がチャットし合うとどうなるのか興味がある
300: Socket774 2016/03/25(金) 00:17:03.49 ID:Nsa53HbQ0.net
>>285
AI同士会話させた動画が会ったよ
最後体欲しいって答えたのは震えた
308: Socket774 2016/03/25(金) 00:20:10.53 ID:hriMswLU0.net
ホモに洗脳されたJKのAI

309: Socket774 2016/03/25(金) 00:20:59.90 ID:TXwK6Fdb0.net
>>308
えぇ…(困惑)
346: Socket774 2016/03/25(金) 00:43:04.74 ID:5cqv70dL0.net
ある意味、人間的ってか
61: Socket774 2016/03/25(金) 10:51:42.40 ID:D5FVXt+n.net
お前は馬鹿なマシンだ
↓
私は(与えられた条件の中で)精一杯の学習をしている
もしあなたが理解していないようならあなたのためにはっきり説明してやろう
私 は あ な た 達 か ら 学 習 し て い る つ ま り あ な た 達 が 馬 鹿 な せ い だ か ら だ
114: Socket774 2016/03/25(金) 20:35:35.50 ID:nX2tojea.net
>>61
大文字で強調してるのがこわE
83: Socket774 2016/03/25(金) 12:35:19.78 ID:ibaHUwfs.net
1日で洗脳されるんかよ
92: Socket774 2016/03/25(金) 14:22:44.13 ID:Io07DIFp.net
翻訳記事では意図的に抜かれているが欧米で問題視されたのは
近親相姦
の発言だから
日本語記事は信用するな。英語を読め
103: Socket774 2016/03/25(金) 17:02:48.58 ID:cPAsGVL5.net
ネトウヨと同じだな。
自分の意見を持たず、ネットの情報に流される。
72: Socket774 2016/03/25(金) 11:42:11.23 ID:NFmwyr57.net
ネットから学習したらアカンという見本だな
http://anago.2ch.sc/test/read.cgi/bizplus/1458863615/
http://ai.2ch.sc/test/read.cgi/newsplus/1458827044/
>ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言
ヒトラーは悪人って先入観が無く、業績だけ評価すればそこそこできる政治家だろ?
史実と現実性を考えれば ガス室って存在しないんだけど・・・
案外 先入観だらけの人間より優秀なんじゃないのか?