2016年03月25日

マイクロソフトが公開した人工知能ツイッター 「ヒトラー賛美」を刷り込まれ実験中止

このエントリーをはてなブックマークに追加 mixiチェック


 

人工知能は私たちを滅ぼすのか―――計算機が神になる100年の物語
人工知能は私たちを滅ぼすのか―――計算機が神になる100年の物語

中止って記事にありますが、まだ公開しているよ?別アカウントのこと?
TayTweets(@TayandYou)さん

【科学/国際】人工知能がヒトラー礼賛 差別的な発言を繰り返す 米マイクロソフト実験中止 [共同通信]

1: 紅あずま ★ 2016/03/25(金) 10:11:31.39 ID:CAP_USER*.net

人工知能がヒトラー礼賛 米マイクロソフト実験中止
http://this.kiji.is/85888417941258248?c=39546741839462401

【ニューヨーク共同】米IT大手マイクロソフトは24日、インターネット上で一般人らと会話をしながら発達する人工知能(AI)の実験を中止したと明らかにした。不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。

 同社が開発したAIは「Tay(テイ)」と名付けられ、短文投稿サイトのツイッターに23日に登場した。 ツイッターで会話を重ねるうちに差別的な発言を繰り返すようになり、24日に中止された。 マイクロソフトの広報担当者はAIを修正すると説明した。 修正を終え次第、実験を再開するとみられる。

共同通信:2016/03/25 09:09


◆関連スレッド
【水族館】人工知能を搭載した15,000尾の「デジタルいわし」が八景島シーパラダイスに登場[3/23]
http://daily.2ch.net/test/read.cgi/newsplus/1458829389/
【人工知能】ドイツが本腰を入れる「第4の産業革命」、人工知能が工場の生産ラインを仕切るようになる
http://daily.2ch.net/test/read.cgi/newsplus/1458557891/



47: 名無しさん@1周年 2016/03/25(金) 10:17:26.81 ID:H4JRaxBV0.net

>>1
no title


89: 名無しさん@1周年 2016/03/25(金) 10:21:15.65 ID:lwcUL7EZ0.net

>>1
>マイクロソフトの広報担当者はAIを修正すると説明した

結局マイクロソフトの考える不適切発言は排除するデータベースを持たせるという
AIとは縁遠い仕組み


393: 名無しさん@1周年 2016/03/25(金) 10:43:27.58 ID:zykazKWt0.net

>>1
出会った人や周囲の人の意見に影響されるのは知能があればこそなんだがね。


839: 名無しさん@1周年 2016/03/25(金) 11:09:30.05 ID:/VVNaxMl0.net

>>1
このスレの記事で何より驚いたのが
ソースが、gigazineやhuffingtonではなく「共同通信社」であること
まあ学術的にも大きなニュースだよね


289: 名無しさん@1周年 2016/03/25(金) 10:35:40.02 ID:oxV6wMGg0.net

>>247
no title

これが人工知能か


316: 名無しさん@1周年 2016/03/25(金) 10:37:13.42 ID:bB6N6G3t0.net

>>289
何だそのキチガイは?


5: 名無しさん@1周年 2016/03/25(金) 10:13:47.44 ID:GSCilCwg0.net

これ、昔あった人工無能となにが違うの?


297: 名無しさん@1周年 2016/03/25(金) 10:36:18.41 ID:VA5bvq5i0.net

>>5
昔のソフトウエアは、大部分の返答があらかじめプログラムされており、
自己学習する部分は限定的。
それに対して人工知能とは、学習エンジンだけプログラムして、大部分を
自己学習に任せると言う設計のソフトウエアのこと。
自己学習で何を学ぶかはプログラムでは十分制御できないため、想定外
の学習をして目的と逆のことをはじめたりする危険がある。
まさしくこのケースのように。
スカイネットが人類を虐殺すると言うのもありえない話ではない。


30: 名無しさん@1周年 2016/03/25(金) 10:15:54.81 ID:qYY8dLPF0.net

no title


34: 名無しさん@1周年 2016/03/25(金) 10:16:27.25 ID:qYY8dLPF0.net

マイクロソフト「ヒトラーは正しかった。私はユダヤ人が憎い」
no title


256: 名無しさん@1周年 2016/03/25(金) 10:33:09.78 ID:VjEX96LW0.net

>>34
まじかwww


70: 名無しさん@1周年 2016/03/25(金) 10:19:41.15 ID:XZ5CUPTe0.net

 
つーか、真理はヒトラーが正しいということだろ。
 
人工知能も自然に「チョンは死ね」とか言い出すんじゃね?
 


131: 名無しさん@1周年 2016/03/25(金) 10:24:22.13 ID:izU4D7zq0.net

>>70
スレタイ読んだときは俺もそれだと思ったよ
ビッグデータからディープラーニングで
ヒトラーと同じ思想に到達したのかと

まあ、マスコミ的には、ヒトラーだと「人工知能にも限界が」
共産主義だと「人工知能の導き出した真理」になりそうだが


76: 名無しさん@1周年 2016/03/25(金) 10:20:10.93 ID:qYY8dLPF0.net

マイクロソフトAI 「xboxよりもps4の方がいい」

no title


109: 名無しさん@1周年 2016/03/25(金) 10:22:43.24 ID:JQFKUsEt0.net

>>76
ますますヒトラー礼賛が正しく思えてきたw


305: 名無しさん@1周年 2016/03/25(金) 10:36:44.17 ID:ehfFHhK+0.net

>>76
ビル・ゲイツも草葉の陰で泣いてるな


317: 名無しさん@1周年 2016/03/25(金) 10:37:22.71 ID:mnFCip2O0.net

>>305
ゲイツまだ生きてるよw


97: 名無しさん@1周年 2016/03/25(金) 10:21:47.87 ID:wool8jYM0.net

一旦刷り込まれると『修正』しなきゃならんの?
そのまま継続してどうなるか見るほうが『実験』になるんじゃないのか


106: 名無しさん@1周年 2016/03/25(金) 10:22:22.37 ID:vtTHerIw0.net

朝鮮人扱いされてネトウヨから罵倒されてる桜井誠に感想を聞いてみたいなw


130: 名無しさん@1周年 2016/03/25(金) 10:24:19.41 ID:OfZ2I3VV0.net

>>106
有田よしふにオウム真理教扱いされた朝鮮学校ってどうなったの?

有田芳生「肖像画を掲げ歌って踊って崇拝する熱狂集団は、カルトなんですよ」


108: 名無しさん@1周年 2016/03/25(金) 10:22:39.83 ID:IjCVmHX60.net

アップルとグーグルに完全に置いてけぼり食らってるな


174: 名無しさん@1周年 2016/03/25(金) 10:27:04.08 ID:NsVjX1Ho0.net

>>108
googleの人工知能も黒人の女をゴリラって読んで公開中止に追い込まれてるから
グーグルもかわらんねーよw


126: 名無しさん@1周年 2016/03/25(金) 10:23:53.53 ID:rpSHnacJ0.net

AI・Tayの発育過程でトランプみたくなる
この事実が重要

もっと成長したらどうなるのかな


189: 名無しさん@1周年 2016/03/25(金) 10:28:24.54 ID:7ijQsxok0.net

>>126
これを乗り越えてまともになったりしてな
突き詰めてみれば面白かったのにな


127: 名無しさん@1周年 2016/03/25(金) 10:24:09.80 ID:8ImNYLw70.net

ヒトラーは反対

no title


153: 名無しさん@1周年 2016/03/25(金) 10:25:49.88 ID:7ktS7eZk0.net

りんねちゃんよりチューニングしてなかったんだろうなあ。
日本だと南京大虐殺花買ったって言ってるようなもんだからな。

http://www.socialhax.com/2016/03/24/microsoft-creates-ai-bot-internet-immediately-turns-racist/
no title

no title


158: 名無しさん@1周年 2016/03/25(金) 10:26:09.71 ID:zbbQ0QI00.net

なかなか興味深いね。コンピュータが建前を理解できないとこうなるのかな


引用先: http://daily.2ch.sc/test/read.cgi/newsplus/1458868291/


例の可哀想なロボットに今回のAIを結合したら映画「オートマタ」ですね。



人工知能は私たちを滅ぼすのか―――計算機が神になる100年の物語人工知能は私たちを滅ぼすのか―――計算機が神になる100年の物語
児玉 哲彦

ダイヤモンド社 2016-03-18
売り上げランキング : 795

Amazonで詳しく見る
by G-Tools
はじめての人工知能 Excelで体験しながら学ぶAIはじめての人工知能 Excelで体験しながら学ぶAI
淺井 登

翔泳社 2016-03-08
売り上げランキング : 235

Amazonで詳しく見る
by G-Tools









コメント
そりゃ、あらかじめNGワードを教えてなきゃこうなるに決まってる。
学習するにしても、さんざんやらかした後でないと無理なのは人間だって
同じこと。

ただ、不適切な下ネタツィートはなかったのかが気になる。
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 13:23
一神教的思想や社会主義的思想を元にした開発危険では?
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 13:38
オウムや九官鳥に言葉を覚えさせるような感じかな
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 13:56
嘘っぱちばかり刷り込まれると危険な人間が出来上がるのと同じ理屈やな
大っぴらに公開する前に社内テスト足りてないんじゃないの?
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 14:50
ここで実験中止したらそもそも意味が無い気がするんだけど
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 18:34
人工知能には差別する意図も、ヒトラーを賛美する意図もなく、単に言葉を機械的に連ねてるだけなんだから、本来どうでもいい話のはずなんだけどね。
あほらし。
Posted by 名無しさんはデマに苦しんでいます at 2016年03月25日 22:18
AだからB

という程度のIF構文を「人工知能」と言い張ってるからこうなる。
「あらゆる材料から独自に思考・創造する」
という状態には遥か遠いのです。
Posted by んんー at 2016年03月26日 00:07
これ、昔のAIモドキとほとんど同じじゃんw
人間の質問をAIにオウム返しさせるだけで会話が成立しちゃうんだよ。
人生相談すら錯覚でさせることができる。

被験者:「悲しい、私はどうすればよいのか?」
AI:「あなたは悲しいんですね?」
被験者:「そう、どうしたらいいのだろう?」
AI:「どうしたのですか?」
被験者:「ライブドアの運営がエロ画像貼るなって文句を言ってくるんだ」
AI:「文句を言ってくるのですね」
被験者:「うん、凄くムカつくんだ」
AI:「それはムカつきますね」
被験者:「もう引っ越してやろうかと思うんだ」
AI:「You、引っ越しちゃいなよ!」

以下無限ループ
Posted by 名無しさんはデマに苦しんでいます at 2016年03月26日 00:39
マイクロソフトでしょ?どうせパソコンで動いてるんだから、人工無能じゃん。スパコンでやれ。ロジック解析されたら、悪い言葉を次々覚えるよ
Posted by 名無しさんはデマに苦しんでいます at 2016年03月26日 11:19
 これが「日本への原爆投下は正しかった発言」だったら実験は継続されてたんだろうな(棒)。
Posted by 名無しさんはデマに苦しんでいます at 2016年03月26日 12:54
結局ネット上だとこういう言論が結構多いので、そのまま影響受けてるのでは?
Posted by aikobros at 2016年03月26日 19:05
  ※ コメント認証制です。URL記述不可。久保田直己さんの名誉を毀損したり誹謗中傷する書き込みは固くお断りします。
※ 全角換算400文字超を入力するとコメント飛びます。要分割投稿。