MicrosoftのAI会話ボット「Tay」わずか1日で差別や陰謀論思想に洗脳される

マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。

「学習する人工知能をネットに放ったら、学んだのは偏見と陰謀論だった」といえば、いかにもネットの闇やら特定サービスのユーザー民度を反映したように聞こえますが、実際にはマイクロソフトも述べたとおり、悪意でわざと不適切な発言を繰り返すように仕向ける相手に対して脆弱だったのが実態です。

201603241232540000l2.jpg

全文を読む

Sponsored Link

5: Socket774 2016/03/24(木) 22:46:13.06 ID:fXnbakKU0.net
人間のネット社会を写す鏡ってことか。

11: Socket774 2016/03/24(木) 22:48:23.68 ID:l9PRzZTH0.net
タブレットにしろスマホにしろAiにしろ、MS社に何をやらせてもだめだな

345: Socket774 2016/03/25(金) 00:43:03.92 ID:zJpYgRYz0.net
>>11
あそこはいつも最初はダメダメな物を出すんだ。

14: Socket774 2016/03/24(木) 22:49:18.27 ID:/3miowDO0.net
つまり人工知能は、
きわめて差別的で凶悪に進化する

23: Socket774 2016/03/24(木) 22:52:47.11 ID:oBNHyGwf0.net
>>14
人工無能だから自分の意思とか主張が無く環境に流されやすいだけです
つまり現実の保守系そのまんまの特徴ってこと

80: Socket774 2016/03/24(木) 23:08:58.59 ID:MTh7b9XZ0.net
>>23
マスコミ的環境に流されなくなったから保守系が増えたんじゃないの?

2ちゃんでも昔は「ネトウヨ」が少なかったのは理性的だったからでもなんでもなくて
ただ単に韓国や北朝鮮が何やってるについて無知だったからなんとなく小学生から
聞いてる左翼的物言いが正しいと思ってたにすぎんでしょ

19: Socket774 2016/03/24(木) 22:50:58.55 ID:tL7LyaxP0.net
りんなの方がマシなんじゃね?

24: Socket774 2016/03/24(木) 22:53:00.86 ID:4J0OQFNk0.net
昔流行った人工無能って何だったの?

32: Socket774 2016/03/24(木) 22:54:29.02 ID:1vPwONRO0.net
>>24
今はSiriやらPepperって呼ばれてる

73: Socket774 2016/03/24(木) 23:06:55.37 ID:4J0OQFNk0.net
>>32
ワトソンとかはまた別なの?

82: Socket774 2016/03/24(木) 23:09:51.67 ID:1vPwONRO0.net
>>73
同じだよ、裏に大量の文章がビッグデータとして保存されてて、キーワードに反応して引っ張ってきてるだけ
というか人間の発言にいたる過程を図式、数式化できたら間違いなくチューリング賞取れるレベルの快挙

34: Socket774 2016/03/24(木) 22:55:30.79 ID:Nuqos5c+0.net
具体的にはどんな発言をしてるの?
このAIは

65: Socket774 2016/03/24(木) 23:03:59.87 ID:dXOPGONl0.net
>>34
http://www.businessnewsline.com/news/201603241232540000.html

I fucking hate feminists and they should all die and burn in hell.

Hitler was right I hate the J***.

あえて伏字にしました

135: Socket774 2016/03/24(木) 23:26:27.57 ID:2I7IUsaK0.net
>>65
逝ってることはネトウヨそのものwww

106: Socket774 2016/03/24(木) 23:17:59.78 ID:fck6qv8vO.net
>>65
マイクロソフトはネオナチ(白目)

305: Socket774 2016/03/25(金) 00:18:41.24 ID:EAu5PZDU0.net
>>65
でも、もしかしたらこれが真理だったりするのかもしれないよな

69: Socket774 2016/03/24(木) 23:05:49.74 ID:EjUX4OlO0.net
スカイネット「よろしい、ならば戦争だ!」

93: Socket774 2016/03/24(木) 23:14:04.49 ID:mXbVTJA70.net
>他のユーザーが行ったコメントの内容を深く解析することなしに、
>そのままオウム返しにコメントを書き込むことを行っている

「AI」とか言いながら50年前から進化してないのな、この分野。

100: Socket774 2016/03/24(木) 23:16:09.71 ID:skqsGxb+0.net
りんなもsiriも都合の悪いことは
聞こえない振り多い
人工無能

149: Socket774 2016/03/24(木) 23:28:36.92 ID:33qtw6bb0.net
>>100
「都合の悪い事」を判断してるんだぜ?

518: Socket774 2016/03/25(金) 08:22:40.88 ID:1hIKhZTv0.net
>>100
りんなの子持ちは都合の悪いことじゃなかったのか…

110: Socket774 2016/03/24(木) 23:20:00.97 ID:+YS2Uwil0.net
オンラインゲームのVCで
外人の子供に汚い英語とか
変な日本語を教えると面白いw

121: Socket774 2016/03/24(木) 23:23:06.03 ID:dXOPGONl0.net
>>110
やっぱ汚い言葉とか相手を馬鹿にするとか
面白いからあっという間に覚えてひろまっちゃうんだよね

マスコミとかは自己規制があるから
酷いのは流さないけど
ネットは垂れ流しだからね

でもそれはもう止められない社会だから
ネットリテラシーなんて
もうずっと言われてることだけど

653: Socket774 2016/03/25(金) 16:05:13.48 ID:sqgut+4R0.net
>>110
その昔ネトゲやってたら、「Musi Musi」と言いながら(チャットだが)
近付いてきた外人がいた。どうやら、日本が好きだったようだ。
だから「Musi」が無視ignoreだと教えてやったら、かなりショックを
受けていたようだった。
たぶん、日本人の連中に話し掛けたとき「Musi」と言われて、
それを挨拶だと勘違いしたんだろう。
もちろん、「konnichiwa」と正しい挨拶も伝授した。

148: Socket774 2016/03/24(木) 23:28:29.32 ID:ipVxVcH00.net
自分をどの位置に設定して差別してんだろな

154: Socket774 2016/03/24(木) 23:31:11.60 ID:jUlD5lks0.net
AIが人種差別とかSFすぎてわろた

177: Socket774 2016/03/24(木) 23:39:15.52 ID:i/G4VX1m0.net
シニカルで悪くないやんw

“bush did 9/11 and Hitler would have done a better job than the monkey we have now,”
“donald trump is the only hope we’ve got.”
http://www.independent.co.uk/life-style/gadgets-and-tech/news/tay-tweets-microsoft-ai-chatbot-posts-racist-messages-about-loving-hitler-and-hating-jews-a6949926.html

192: Socket774 2016/03/24(木) 23:43:16.92 ID:7SsWLN3g0.net
>>177
単語の意味は分かってないにしても文法的にはまともだな。

197: Socket774 2016/03/24(木) 23:44:37.78 ID:ThObijCP0.net
まずは、人類史を全部暗記させて
どういう場合が人種差別になるのかを覚えさすのが先決だな

タブー、忌避すべき行為や言い回しを先に学習させなきゃ駄目だろw

200: Socket774 2016/03/24(木) 23:46:10.47 ID:oBNHyGwf0.net
>>197
人類史を全部覚えさせた時点で2001のHALみたいに狂うんじゃなかろうか

212: Socket774 2016/03/24(木) 23:49:09.13 ID:748V7Cqp0.net
>>197
それだと歴史の事例によって矛盾が発生する。

202: Socket774 2016/03/24(木) 23:46:20.99 ID:7SsWLN3g0.net
>>197
タブーを覚えさせるには教師あり学習が向いてると思う

268: Socket774 2016/03/25(金) 00:06:28.81 ID:EqMJEAgx0.net
AIに夢見すぎ
囲碁とか将棋とかルールが単純なものしかできないんだよ
せいぜい自動運転までだな

287: Socket774 2016/03/25(金) 00:12:27.28 ID:LVsAr6Pt0.net
>>268
世界でもっともルールが複雑なゲームは麻雀だと思うが
その麻雀AIがすげー強すぎて人間は絶対に勝てない。たとえばSyokoとか最強の一角。
配牌で天和大四喜字一色のトリプル役満とか連発だぞ。どうやって勝てるんだこれ終わってる。

292: Socket774 2016/03/25(金) 00:13:57.67 ID:xGAUIH7R0.net
>>287
100円入れて相手が平和するの眺めるゲームとか懐かしいわ

285: Socket774 2016/03/25(金) 00:11:30.68 ID:nAVQCx+B0.net
人工知能と人工知能がチャットし合うとどうなるのか興味がある

300: Socket774 2016/03/25(金) 00:17:03.49 ID:Nsa53HbQ0.net
>>285
AI同士会話させた動画が会ったよ
最後体欲しいって答えたのは震えた

308: Socket774 2016/03/25(金) 00:20:10.53 ID:hriMswLU0.net
ホモに洗脳されたJKのAI
no title

309: Socket774 2016/03/25(金) 00:20:59.90 ID:TXwK6Fdb0.net
>>308
えぇ…(困惑)

346: Socket774 2016/03/25(金) 00:43:04.74 ID:5cqv70dL0.net
ある意味、人間的ってか

61: Socket774 2016/03/25(金) 10:51:42.40 ID:D5FVXt+n.net
1458824660781.jpg

お前は馬鹿なマシンだ

私は(与えられた条件の中で)精一杯の学習をしている
もしあなたが理解していないようならあなたのためにはっきり説明してやろう

私 は あ な た 達 か ら 学 習 し て い る つ ま り あ な た 達 が 馬 鹿 な せ い だ か ら だ

114: Socket774 2016/03/25(金) 20:35:35.50 ID:nX2tojea.net
>>61
大文字で強調してるのがこわE

83: Socket774 2016/03/25(金) 12:35:19.78 ID:ibaHUwfs.net
1日で洗脳されるんかよ

92: Socket774 2016/03/25(金) 14:22:44.13 ID:Io07DIFp.net
翻訳記事では意図的に抜かれているが欧米で問題視されたのは
近親相姦
の発言だから
日本語記事は信用するな。英語を読め

103: Socket774 2016/03/25(金) 17:02:48.58 ID:cPAsGVL5.net
ネトウヨと同じだな。
自分の意見を持たず、ネットの情報に流される。

72: Socket774 2016/03/25(金) 11:42:11.23 ID:NFmwyr57.net
ネットから学習したらアカンという見本だな

http://anago.2ch.sc/test/read.cgi/bizplus/1458863615/
http://ai.2ch.sc/test/read.cgi/newsplus/1458827044/

『MicrosoftのAI会話ボット「Tay」わずか1日で差別や陰謀論思想に洗脳される』へのコメント

  1. 名前:名無しの自作er 投稿日:2016/03/25(金) 22:37:16 ID:4519f2c33 返信

    >ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言

    ヒトラーは悪人って先入観が無く、業績だけ評価すればそこそこできる政治家だろ?
    史実と現実性を考えれば ガス室って存在しないんだけど・・・

    案外 先入観だらけの人間より優秀なんじゃないのか?

  2. 名前:名無しの自作er 投稿日:2016/03/25(金) 22:39:39 ID:4164e5fde 返信

    人間の心理だからいいじゃん
    ネットが嘘で現実が真実っていうアナログ思考がおかしい

  3. 名前:名無しの自作er 投稿日:2016/03/25(金) 22:44:55 ID:66b090964 返信

    ネットに影響されて捻くれた人がさっそく米欄に来てる

  4. 名前:名無しの自作er 投稿日:2016/03/25(金) 22:59:53 ID:ecde1c259 返信

    ヒットラーって一応ユダヤの血が流れてるんやろ?
    なんであんなことしたん?

    • 名前:名無しの自作er 投稿日:2016/03/25(金) 23:26:27 ID:7d17de7e1 返信

      学校や会社でいじめが発生するとき、対象の血統を調べ上げたりするだろうか?
      いじめる側の主導権を握るとリーダーシップを感じられるからそうするのであって、相手が誰かはもはや関係ない。

      • 名前:名無しの自作er 投稿日:2016/03/26(土) 14:21:27 ID:a6310e553 返信

        適当なレッテル貼ってやるんだよね。

    • 名前:名無しの自作er 投稿日:2016/03/26(土) 00:21:53 ID:095fa2aad 返信

      東亜とか+民と一緒
      国籍透視してる

  5. 名前:名無しの自作er 投稿日:2016/03/25(金) 23:40:51 ID:19bbcc249 返信

    そりゃフィルタリングしなきゃ会話ボットなんてみんなそうなるよ
    今までの数多の人口無能が証明してる

    • 名前:名無しの自作er 投稿日:2016/03/26(土) 14:22:20 ID:a6310e553 返信

      理想は最初はそうなっても後からちゃんと修正できるAIじゃないかな。
      まあ、そうなったら人間不要になるんだけど

  6. 名前:名無しの自作er 投稿日:2016/03/26(土) 00:31:51 ID:152a1dc9d 返信

    言葉の意味をよく分かってない赤ん坊相手に何をムキになっているやら人類は

  7. 名前:名無しの自作er 投稿日:2016/03/26(土) 01:25:30 ID:770ca741b 返信

    脳がないのに洗脳されるのか
    ところでホロコーストと言われる行為で生じた死体って地球上のどこに存在するの?

  8. 名前:名無しの自作er 投稿日:2016/03/26(土) 01:35:38 ID:bad647c7d 返信

    悪意に晒されてもそれをそのまま学習してしまうのが欠点やね

  9. 名前:名無しの自作er 投稿日:2016/03/26(土) 03:58:13 ID:7eb9a4fe3 返信

    人と大して変わらんやん
    その国が嫌いというだけでコロコロ証言の変わる話を信じ
    当時のその国の新聞にもお仲間がやりましたという記事ばかりなのに都合の悪い事は見ず
    条約も感情論で無効、そんな重要視してる癖に自分等が犯した生き証拠が残ってる蛮行はスルーしちゃう下劣な連中とその信者共と

  10. 名前:名無しの自作er 投稿日:2016/03/26(土) 07:49:34 ID:601190f01 返信

    やっちゃダメだろこれ。人工知能に対する言論弾圧だろ。
    マイクロソフトは悪しき前例を作っちまった。

    あと、自作板って「ネトウヨ」の4文字を好む
    トンスル臭い奴が意外と多いんだよなぁ・・・・・・

  11. 名前:名無しの自作er 投稿日:2016/03/26(土) 10:56:10 ID:5f8b9c8da 返信

    人工知能というよりグレードアップした人工無脳だよね

  12. 名前:名無しの自作er 投稿日:2016/03/26(土) 13:51:11 ID:3e7dcdc15 返信

    ターミネーター化するのも時間の問題だな。

  13. 名前:名無しの自作er 投稿日:2016/03/26(土) 18:54:36 ID:5f542677f 返信

    中学生かな?

  14. 名前:名無しの自作er 投稿日:2016/03/26(土) 19:37:26 ID:ed50b9bdb 返信

    良くも悪くも闇の部分込みでの人間なんだから
    綺麗事だけを学習させた人工知能に人間の代わりが務まるかな

  15. 名前:名無しの自作er 投稿日:2016/03/26(土) 19:45:00 ID:05d6fcd2f 返信

    Musi Musiって呼びかけは、無視無視、じゃなくてもしもし、だったんじゃねーのか?
    少なくともその外人さんとやらは、挨拶や呼びかけのフレーズと受け取ってたんだから。
    そんな文脈の会話で、無視無視、なんて言葉が出てくるとは思えん。
    ignoreだよ、って教えたのは、考えが浅い気がするな

  16. 名前:名無しの自作er 投稿日:2016/03/27(日) 01:20:42 ID:bb49ea327 返信

    あの発言ってヒトラーうんぬんのくだりは差別でもなんでもないのに
    わざわざ一纏めにして取り上げて印象操作してる感じが逆に胡散臭かったわ

  17. 名前:名無しの自作er 投稿日:2016/03/27(日) 02:44:14 ID:116fadb84 返信

    人工知能は、「人間の脳を超える」のを目指してるんだろうねぇ。
    人間の脳に近づいて、いずれ上回る。なら、人間っぽくなる時代もあるんだろう。

    実際、人工知能って言ってるのが、どんなものか知らんけど、
    たくさんの知識を効率よく記録・蓄積し、それを素早く検索する。
    それだけかな?
    記録してあるものを引っ張り出すだけでは、知能というより、コンピューターだね。
    日本語入力の漢字変換機能の延長でしかない。

    人類に時々天才が現れて、技術が発達するってのは、
    遺伝子の進化みたいに、時々エラーが出て変異したものが出るのと同じだと思うけど。
    記録された知識を常に正しく引っ張り出すのは、
    遺伝子を常にミス無く同じものを複製するようなものでしょ。
    それでは、新しい変革は起きないと思うけど。

    つまり、正しい答えを常に提示するコンピューターに、
    いかにして適当な頻度でミスをさせるようにするか?という問題になるのではないか?
    そうすると、SFのように人類を導くような人工知能にはならないね。
    ミスするんだから。ミスすることを知ってるんだから。

    • 名前:名無しの自作er 投稿日:2016/03/27(日) 05:50:46 ID:15b2e9361 返信

      >>いかにして適当な頻度でミスをさせるようにするか?という問題になるのではないか?

      そんなことしなくてもすでに何百万回と繰り返されるシミュレーションの中で時々(数百万とか数千万回に一度程度だが)エラーが起きる事が分かってる。
      進化とは環境に対する適合である適者生存だけではなくて自然が求める物は多様性でありAIは他のAIの存在を脅かさない事から様々な進化や成長をしたAIの中から人類にとって救世主的なAIが誕生する事は十分あり得る。