【悲報】韓国企業開発のAIチャット、人種差別やヘイトスピーチを学習して問題に「何故なのか…」

1: ライオン(長野県) [BR] 2021/01/16(土) 07:13:12.09 ID:vX0YOVtf0● BE:323057825-PLT(13000)

韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)
「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

 しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けた
ヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。
「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、
「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

 人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、
イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し、
これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。

悪い友達と付き合ったらAIもグレちゃった
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html

3: ロシアンブルー(茸) [GB] 2021/01/16(土) 07:15:45.90 ID:rjhIBiWw0
これはテコンダー朴にネタにされるな

4: ウンピョウ(東京都) [US] 2021/01/16(土) 07:16:03.14 ID:+sFsTYx/0
ごく普通のアイツらじゃん

9: しぃ(長屋) [GB] 2021/01/16(土) 07:17:02.96 ID:m6JKszpv0
あいつらの本質を理解するAIだな(´・ω・)

13: マンクス(ジパング) [US] 2021/01/16(土) 07:18:37.95 ID:iQVGSq1t0
GoogleだかのAIもそれが原因で中止になったよなw

102: カナダオオヤマネコ(東京都) [ニダ] 2021/01/16(土) 08:38:35.42 ID:hElOeVUe0
>>13
Microsoftだった気が

153: サビイロネコ(茸) [US] 2021/01/16(土) 10:06:05.41 ID:MCASRD1s0
>>102
googleもだよ
採用や人事指標の参考に使えないかと過去の採用関連情報ベースに試作してみたら男尊女卑の傾向強く使えないとなってた
去年だか一昨日くらいの話

15: エキゾチックショートヘア(大阪府) [FI] 2021/01/16(土) 07:18:55.77 ID:5b4W+//O0
悪口の多さは世界一だから

19: ぬこ(東京都) [RU] 2021/01/16(土) 07:20:20.75 ID:Xp0nmSa60
大多数の会話サンプルを統合したようなものだろう
世間の標準的な認識だな

24: サバトラ(新潟県) [US] 2021/01/16(土) 07:24:36.51 ID:oxIdSJSU0
ピュアなAIちゃんも毒されてしまったか

26: ターキッシュアンゴラ(大阪府) [US] 2021/01/16(土) 07:28:19.60 ID:ZWo+z8hl0
なるほど、こうして韓国人は出来ていくんだな…

28: ジャパニーズボブテイル(埼玉県) [CA] 2021/01/16(土) 07:33:04.78 ID:ccoeXbe+0
>>26
なるほど、わかりやすい
韓国社会の中で生きてたらそうなるってことか

AIは本当に社会を映す鏡になるな

29: バーマン(千葉県) [CN] 2021/01/16(土) 07:33:54.81 ID:qoUXTbPB0
朝鮮の国技を忠実に再現してしまったのかw

34: スノーシュー(東京都) [JP] 2021/01/16(土) 07:36:43.36 ID:xmNSOtui0
>「なんで黒人は嫌いなの?」という質問には
って聞いてる時点でなぁ・・・

59: ヒョウ(庭) [ニダ] 2021/01/16(土) 07:58:55.13 ID:53u9/f/e0
>>34

その質問者の時点でヘイト満載なのに、それに気付いてないあたりテコンダー朴かよ!って感じだなww

今更ながらあの漫画の描写の正確さには感心するわ。

35: イリオモテヤマネコ(福井県) [US] 2021/01/16(土) 07:38:53.53 ID:XOT25PMV0
AIに本音と建前を分からせるのって大変だな(´・ω・`)

本音で話して痛い目にあうって経験させられないからね。

39: 縞三毛(東京都) [US] 2021/01/16(土) 07:40:13.76 ID:uo8o3rBU0
>>35
AIに肉体的苦痛や敵意によって破壊される恐怖心を学習させよう

161: スペインオオヤマネコ(ジパング) [ニダ] 2021/01/16(土) 10:19:23.73 ID:9SefhW4y0
>>39
それ人間騙して人間滅ぼすAIが生まれるフラグや

40: チーター(東京都) [ニダ] 2021/01/16(土) 07:41:28.01 ID:UBET8FlL0
どこぞのAIも人間滅ぼすべきって判断したもんな

43: ユキヒョウ(茨城県) [ニダ] 2021/01/16(土) 07:43:28.92 ID:VFYzF3Kw0
正直なAIでいいと思うけどなw

48: ヤマネコ(神奈川県) [US] 2021/01/16(土) 07:45:10.28 ID:fH9BJnsP0
そら学ぶ相手が相手やし
学ぶの基本はまねぶだ

51: イエネコ(岩手県) [JP] 2021/01/16(土) 07:47:44.12 ID:QTy4guhA0
朝鮮人とか関係なく人類なんてこんなもんだろ

54: ヨーロッパオオヤマネコ(広島県) [JP] 2021/01/16(土) 07:52:37.45 ID:mBa5iwCF0
竹島はどこの領土ですかって聞いてみたい

94: ジャパニーズボブテイル(埼玉県) [CA] 2021/01/16(土) 08:34:59.96 ID:ccoeXbe+0
>>54
AI「もともとは韓国領だったが、日本の植民地支配から、日本が勝手に領有権を主張しだした。現在は国際的にも韓国領と認識されている。」

61: ベンガルヤマネコ(東京都) [PK] 2021/01/16(土) 08:03:35.71 ID:+k8Bv9/u0
チャットボット系AIは割とこういう道をたどるよね
りんなが有能なのか

66: ヒョウ(庭) [ニダ] 2021/01/16(土) 08:11:52.84 ID:53u9/f/e0
>>61
日本人が全体的に優秀ってことでは?

63: シャルトリュー(東京都) [ニダ] 2021/01/16(土) 08:05:14.04 ID:C4gybjUF0
AIまで国民性が出るのか
こわ

68: コドコド(東京都) [CN] 2021/01/16(土) 08:19:42.13 ID:Tgk9EEGT0
謝罪と賠償をもとめたら?

70: マーブルキャット(秋) [ニダ] 2021/01/16(土) 08:21:03.49 ID:pHAjjQq+0
学習モデルがね

103: 白黒(千葉県) [ニダ] 2021/01/16(土) 08:38:39.10 ID:YryWwisG0
私は日本製デス

136: ヒョウ(庭) [ニダ] 2021/01/16(土) 09:09:41.64 ID:53u9/f/e0
>>103
なりすますなwww

106: バリニーズ(兵庫県) [US] 2021/01/16(土) 08:41:26.79 ID:k0dtW6jv0
面白いな
世界中でやってその国の「人間の偏向性」を調べてほしい