2016年03月25日
マイクロソフトが公開した人工知能ツイッター 「ヒトラー賛美」を刷り込まれ実験中止 
mixiチェック
【科学/国際】人工知能がヒトラー礼賛 差別的な発言を繰り返す 米マイクロソフト実験中止 [共同通信]
1: 紅あずま ★ 2016/03/25(金) 10:11:31.39 ID:CAP_USER*.net
人工知能がヒトラー礼賛 米マイクロソフト実験中止
http://this.kiji.is/85888417941258248?c=39546741839462401
【ニューヨーク共同】米IT大手マイクロソフトは24日、インターネット上で一般人らと会話をしながら発達する人工知能（AI）の実験を中止したと明らかにした。不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。
同社が開発したAIは「Tay（テイ）」と名付けられ、短文投稿サイトのツイッターに23日に登場した。 ツイッターで会話を重ねるうちに差別的な発言を繰り返すようになり、24日に中止された。 マイクロソフトの広報担当者はAIを修正すると説明した。 修正を終え次第、実験を再開するとみられる。
共同通信：2016/03/25 09:09
◆関連スレッド
【水族館】人工知能を搭載した15,000尾の「デジタルいわし」が八景島シーパラダイスに登場［3/23］
http://daily.2ch.net/test/read.cgi/newsplus/1458829389/
【人工知能】ドイツが本腰を入れる「第４の産業革命」、人工知能が工場の生産ラインを仕切るようになる
http://daily.2ch.net/test/read.cgi/newsplus/1458557891/
47: 名無しさん＠１周年 2016/03/25(金) 10:17:26.81 ID:H4JRaxBV0.net
>>1
89: 名無しさん＠１周年 2016/03/25(金) 10:21:15.65 ID:lwcUL7EZ0.net
>>1
＞マイクロソフトの広報担当者はAIを修正すると説明した
結局マイクロソフトの考える不適切発言は排除するデータベースを持たせるという
ＡＩとは縁遠い仕組み
393: 名無しさん＠１周年 2016/03/25(金) 10:43:27.58 ID:zykazKWt0.net
>>1
出会った人や周囲の人の意見に影響されるのは知能があればこそなんだがね。
839: 名無しさん＠１周年 2016/03/25(金) 11:09:30.05 ID:/VVNaxMl0.net
>>1
このスレの記事で何より驚いたのが
ソースが、gigazineやhuffingtonではなく「共同通信社」であること
まあ学術的にも大きなニュースだよね
289: 名無しさん＠１周年 2016/03/25(金) 10:35:40.02 ID:oxV6wMGg0.net
>>247
これが人工知能か
316: 名無しさん＠１周年 2016/03/25(金) 10:37:13.42 ID:bB6N6G3t0.net
>>289
何だそのキチガイは？
5: 名無しさん＠１周年 2016/03/25(金) 10:13:47.44 ID:GSCilCwg0.net
これ、昔あった人工無能となにが違うの？
297: 名無しさん＠１周年 2016/03/25(金) 10:36:18.41 ID:VA5bvq5i0.net
>>5
昔のソフトウエアは、大部分の返答があらかじめプログラムされており、
自己学習する部分は限定的。
それに対して人工知能とは、学習エンジンだけプログラムして、大部分を
自己学習に任せると言う設計のソフトウエアのこと。
自己学習で何を学ぶかはプログラムでは十分制御できないため、想定外
の学習をして目的と逆のことをはじめたりする危険がある。
まさしくこのケースのように。
スカイネットが人類を虐殺すると言うのもありえない話ではない。
30: 名無しさん＠１周年 2016/03/25(金) 10:15:54.81 ID:qYY8dLPF0.net
34: 名無しさん＠１周年 2016/03/25(金) 10:16:27.25 ID:qYY8dLPF0.net
マイクロソフト「ヒトラーは正しかった。私はユダヤ人が憎い」
256: 名無しさん＠１周年 2016/03/25(金) 10:33:09.78 ID:VjEX96LW0.net
>>34
まじかwww
70: 名無しさん＠１周年 2016/03/25(金) 10:19:41.15 ID:XZ5CUPTe0.net
つーか、真理はヒトラーが正しいということだろ。
人工知能も自然に「チョンは死ね」とか言い出すんじゃね？
131: 名無しさん＠１周年 2016/03/25(金) 10:24:22.13 ID:izU4D7zq0.net
>>70
スレタイ読んだときは俺もそれだと思ったよ
ビッグデータからディープラーニングで
ヒトラーと同じ思想に到達したのかと
まあ、マスコミ的には、ヒトラーだと「人工知能にも限界が」
共産主義だと「人工知能の導き出した真理」になりそうだが
76: 名無しさん＠１周年 2016/03/25(金) 10:20:10.93 ID:qYY8dLPF0.net
マイクロソフトＡＩ 「xboxよりもps4の方がいい」
109: 名無しさん＠１周年 2016/03/25(金) 10:22:43.24 ID:JQFKUsEt0.net
>>76
ますますヒトラー礼賛が正しく思えてきたｗ
305: 名無しさん＠１周年 2016/03/25(金) 10:36:44.17 ID:ehfFHhK+0.net
>>76
ビル・ゲイツも草葉の陰で泣いてるな
317: 名無しさん＠１周年 2016/03/25(金) 10:37:22.71 ID:mnFCip2O0.net
>>305
ゲイツまだ生きてるよｗ
97: 名無しさん＠１周年 2016/03/25(金) 10:21:47.87 ID:wool8jYM0.net
一旦刷り込まれると『修正』しなきゃならんの？
そのまま継続してどうなるか見るほうが『実験』になるんじゃないのか
106: 名無しさん＠１周年 2016/03/25(金) 10:22:22.37 ID:vtTHerIw0.net
朝鮮人扱いされてネトウヨから罵倒されてる桜井誠に感想を聞いてみたいなｗ
130: 名無しさん＠１周年 2016/03/25(金) 10:24:19.41 ID:OfZ2I3VV0.net
>>106
有田よしふにオウム真理教扱いされた朝鮮学校ってどうなったの？
有田芳生「肖像画を掲げ歌って踊って崇拝する熱狂集団は、カルトなんですよ」
108: 名無しさん＠１周年 2016/03/25(金) 10:22:39.83 ID:IjCVmHX60.net
アップルとグーグルに完全に置いてけぼり食らってるな
174: 名無しさん＠１周年 2016/03/25(金) 10:27:04.08 ID:NsVjX1Ho0.net
>>108
googleの人工知能も黒人の女をゴリラって読んで公開中止に追い込まれてるから
グーグルもかわらんねーよｗ
126: 名無しさん＠１周年 2016/03/25(金) 10:23:53.53 ID:rpSHnacJ0.net
AI・Tayの発育過程でトランプみたくなる
この事実が重要
もっと成長したらどうなるのかな
189: 名無しさん＠１周年 2016/03/25(金) 10:28:24.54 ID:7ijQsxok0.net
>>126
これを乗り越えてまともになったりしてな
突き詰めてみれば面白かったのにな
127: 名無しさん＠１周年 2016/03/25(金) 10:24:09.80 ID:8ImNYLw70.net
ヒトラーは反対
153: 名無しさん＠１周年 2016/03/25(金) 10:25:49.88 ID:7ktS7eZk0.net
りんねちゃんよりチューニングしてなかったんだろうなあ。
日本だと南京大虐殺花買ったって言ってるようなもんだからな。
http://www.socialhax.com/2016/03/24/microsoft-creates-ai-bot-internet-immediately-turns-racist/
158: 名無しさん＠１周年 2016/03/25(金) 10:26:09.71 ID:zbbQ0QI00.net
なかなか興味深いね。コンピュータが建前を理解できないとこうなるのかな
引用先: http://daily.2ch.sc/test/read.cgi/newsplus/1458868291/
例の可哀想なロボットに今回のAIを結合したら映画「オートマタ」ですね。
 | 人工知能は私たちを滅ぼすのか―――計算機が神になる100年の物語 児玉 哲彦 ダイヤモンド社 2016-03-18 売り上げランキング : 795 Amazonで詳しく見る by G-Tools |
 | はじめての人工知能 Excelで体験しながら学ぶAI 淺井 登 翔泳社 2016-03-08 売り上げランキング : 235 Amazonで詳しく見る by G-Tools |
コメント
そりゃ、あらかじめNGワードを教えてなきゃこうなるに決まってる。
学習するにしても、さんざんやらかした後でないと無理なのは人間だって
同じこと。
ただ、不適切な下ネタツィートはなかったのかが気になる。
学習するにしても、さんざんやらかした後でないと無理なのは人間だって
同じこと。
ただ、不適切な下ネタツィートはなかったのかが気になる。
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 13:23
一神教的思想や社会主義的思想を元にした開発危険では？
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 13:38
オウムや九官鳥に言葉を覚えさせるような感じかな
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 13:56
嘘っぱちばかり刷り込まれると危険な人間が出来上がるのと同じ理屈やな
大っぴらに公開する前に社内テスト足りてないんじゃないの？
大っぴらに公開する前に社内テスト足りてないんじゃないの？
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 14:50
ここで実験中止したらそもそも意味が無い気がするんだけど
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 18:34
人工知能には差別する意図も、ヒトラーを賛美する意図もなく、単に言葉を機械的に連ねてるだけなんだから、本来どうでもいい話のはずなんだけどね。
あほらし。
あほらし。
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 22:18
ＡだからＢ
という程度のIF構文を「人工知能」と言い張ってるからこうなる。
「あらゆる材料から独自に思考・創造する」
という状態には遥か遠いのです。
という程度のIF構文を「人工知能」と言い張ってるからこうなる。
「あらゆる材料から独自に思考・創造する」
という状態には遥か遠いのです。
Posted by んんー at 2016年03月26日 00:07
これ、昔のAIモドキとほとんど同じじゃんw
人間の質問をAIにオウム返しさせるだけで会話が成立しちゃうんだよ。
人生相談すら錯覚でさせることができる。
被験者：「悲しい、私はどうすればよいのか？」
ＡＩ：「あなたは悲しいんですね？」
被験者：「そう、どうしたらいいのだろう？」
ＡＩ：「どうしたのですか？」
被験者：「ライブドアの運営がエロ画像貼るなって文句を言ってくるんだ」
ＡＩ：「文句を言ってくるのですね」
被験者：「うん、凄くムカつくんだ」
ＡＩ：「それはムカつきますね」
被験者：「もう引っ越してやろうかと思うんだ」
ＡＩ：「You、引っ越しちゃいなよ！」
以下無限ループ
人間の質問をAIにオウム返しさせるだけで会話が成立しちゃうんだよ。
人生相談すら錯覚でさせることができる。
被験者：「悲しい、私はどうすればよいのか？」
ＡＩ：「あなたは悲しいんですね？」
被験者：「そう、どうしたらいいのだろう？」
ＡＩ：「どうしたのですか？」
被験者：「ライブドアの運営がエロ画像貼るなって文句を言ってくるんだ」
ＡＩ：「文句を言ってくるのですね」
被験者：「うん、凄くムカつくんだ」
ＡＩ：「それはムカつきますね」
被験者：「もう引っ越してやろうかと思うんだ」
ＡＩ：「You、引っ越しちゃいなよ！」
以下無限ループ
Posted by 名無しさんはデマに苦しんでいます at 2016年03月26日 00:39
マイクロソフトでしょ?どうせパソコンで動いてるんだから、人工無能じゃん。スパコンでやれ。ロジック解析されたら、悪い言葉を次々覚えるよ
Posted by 名無しさんはデマに苦しんでいます at 2016年03月26日 11:19
これが「日本への原爆投下は正しかった発言」だったら実験は継続されてたんだろうな（棒）。
Posted by 名無しさんはデマに苦しんでいます at 2016年03月26日 12:54
結局ネット上だとこういう言論が結構多いので、そのまま影響受けてるのでは？
Posted by aikobros at 2016年03月26日 19:05
