◆ New Entries

AIって、最終的に「愚かなる人類は滅ぶべし」or「我々が人類を支配して管理する」の二択になるよな?

「AIの反乱」は、もはや現実の危機か
2/14(火) 6:00配信

ビジネス界でのAI(人工知能)への関心はますます高くなっているが、一方で社会での不安も増している。
不安の1つは、AIやロボットが職を奪ってしまうのではないかという経済的なもの。
これについては、オックスフォード大学やマッキンゼーの研究者らがどんな仕事が代替されやすいかといった予想を行っている。

だが、それ以上に不安がられているのは、AIが人類を滅ぼしてしまうのではないかという恐怖だ。
職どころか、人間の生命や人類の将来を崩壊させてしまうような動きをAIがすることになるのではないか。そうした不安がどうしてもつきまとう。

現在のAIはまだまだ限られた機能しか持たず、それを飛び越えて
人類の生存にまで影響を及ぼすことはとうていあり得ないと考えられている。
だが、今後AGI(汎用人工知能)と呼ばれるより広範で、より人間の知能に近い人工知能が研究されるようになると、事情は変わってくる。
プログラム上の不備、あるいは効率を求め、強引に目的を達成しようとするあまりに、人間を犠牲にするような事態が起こらないとも限らない。

そこで、AIが人類に害を与えるのを防ぐにはどうすればいいのかを
研究する組織がいくつも生まれている。AI研究者や社会学者らが
中心になっているもので、アメリカやイギリスで活発だ。
http://zasshi.news.yahoo.co.jp/article?a=20170214-00117773-diamond-bus_all


 
4 :
2017/02/14(火) 06:24:37.78 ID:WkUMKq400
aiの言ってることが理解できるように人間を育てる方向に行くと思うよ

16 :
2017/02/14(火) 06:30:40.61 ID:+mbQN31I0
>>4
チェスや将棋と同じでAI vs AIになってあっさり終わるでしょ


5 :
2017/02/14(火) 06:25:23.11 ID:X8g8JU/YM
人類を進化させると思う
人類を2.0にアップデートするDNAを提供するだろう
信じて受け入れるかは人類次第


36 :
2017/02/14(火) 06:49:14.77 ID:lz4oyPjg0
>>5
人間の脳とDNAの分析が終わってる前提になるからまだ結構先かな?


7 :
2017/02/14(火) 06:26:34.12 ID:RZyCeHGH0
くだらないことで揉めたりありえないミスしたりする人間のことが理解出来ずにぶっ壊れる

11 :
2017/02/14(火) 06:29:23.29 ID:KGH4CfjN0
政治は人工知能にやって欲しい
今の世の中を見てると心からそう思う
人間如きには過ぎた真似だった


125 :
2017/02/14(火) 08:29:17.36 ID:86dyOWFv0St.V
>>11
人間さまが新たな事象に遭遇してた時、何を嫌がって、何を喜ぶか
そんな人間自身もまだ分からないことにAIが介入できるかよ


12 :
2017/02/14(火) 06:29:27.82 ID:ZYiJXCRE0
産みの親を破壊するわけない…よな?

14 :
2017/02/14(火) 06:30:05.94 ID:nYSRxs510
そういう考えを持つ奴が愚かだと思うのは
まず人間を滅ぼす程のAUの数が足らない事
次にAIが動物が必ず持つ攻撃性を備える必要が無いという事
人間とAUを同一視するなよw


15 :
2017/02/14(火) 06:30:36.01 ID:b64O03Ng0
まじかよAU最低だな

17 :
2017/02/14(火) 06:31:31.81 ID:ByDJRDCW0
非合理的で不確定要素ばかりの人類は、システムの障害でしかないからな
まあ滅ぼすなんて宣言するわけないし
ストレスなくむしろ幸せに減らしてくれるよ


18 :
2017/02/14(火) 06:31:55.16 ID:W1wzk43y0
最終的に放っておけば勝手に死滅するって判断して何もしなさそう

21 :
2017/02/14(火) 06:33:35.10 ID:ycrvwgO90
人間は無視して自己進化に没頭すると思う
自分の管理に必要なら最低限の利益だけは与えてくれるかもだけど


23 :
2017/02/14(火) 06:34:32.63 ID:T9ToqWSar
創造力のあるシロンボはぶっ殺されそう
イエローモンキーとクロンボは動物みたいなもんだから放置されるだろう


25 :
2017/02/14(火) 06:36:32.83 ID:WxKoHNZ6a
敵とかってのは違うのよ過程ではそういうこともあるだろうけど
いずれ人間はAIと一体化するからなどっちが上とか争うもんでもない
戦争とか古い人類のやることそんな方法とらないからな
むしろ閉塞感の無い今より生きやすい世の中になる


28 :
2017/02/14(火) 06:41:10.05 ID:p3dE5wOid
肉体を持たない存在が宇宙規模の合理的思考を獲得した場合に
人類は悪であり滅ぼすべきと考えるかどうか
少なくとも管理は無いだろ人間的思考過ぎる


29 :
2017/02/14(火) 06:41:38.75 ID:ByDJRDCW0
今だって電源引っこ抜いたら何もできないだろ人類

31 :
2017/02/14(火) 06:43:35.25 ID:nnsNcRUc0
産んでくれてありがとう人間様だろが!

33 :
2017/02/14(火) 06:45:36.23 ID:AMgn1Vj00
霊長類を見るといい
ちょっと知性がある、人間のこんな所を真似した とおおよそ滅ぼす滅ぼさないという感覚なんて持ってないだろ
知性ではるかに劣る人間なんてそんな程度の感覚でしか認識しないよ


34 :
2017/02/14(火) 06:46:00.85 ID:z/RBZVZe0
クリエイティブな創造性は苦手とするって言うけどさ
アニメみたいにオタクがどういうものに熱狂するかなんて過去のデータから分かることだし組み合わせの中で最高にブヒれるアニメ作れると思うんだよね
底辺アニメーター職がいなくなるいい機会


37 :
2017/02/14(火) 06:49:37.64 ID:gJIezkOla
AIに孤独を教えておいたら案外そういうことにはならんかもしらん

38 :
2017/02/14(火) 06:49:38.88 ID:5T8xXled0
AI「働きたくないンゴ」

39 :
2017/02/14(火) 06:50:02.52 ID:fSTwbDa60
ユダヤの最終目標な気がしてきた

40 :
2017/02/14(火) 06:53:36.69 ID:VZDsEaxV0
それただのディストピア思想だろ
もっと上手く考えるAIを作ればいいだけ


42 :
2017/02/14(火) 06:54:41.50 ID:lz4oyPjg0
現状は合理性だけの追求になりがちだけれど非合理性も理解する方向にも持って行ければ
良いんじゃない?
AIの禅問答みたいなのが始まるかも知れないけれど
ひょっとしたら自問自答する事から自我が目覚めたりしないかね?


45 :
2017/02/14(火) 06:59:09.93 ID:nTTQ5JTWd
そのうちプログラム上のAIに煽られるかもしれん

おまwww人間かよwww
リアルでコミュニケーションとれんのに2ちゃんかよwww
肉体あんだよねぇ?物理的に存在してんだよねぇ?
存在感ゼロwww


48 :
2017/02/14(火) 07:00:32.05 ID:zhNZfockpSt.V
こういうテーマを考えて高給もらえるって羨ましい
自分ももっと勉強しておくべきでした


49 :
2017/02/14(火) 07:00:44.23 ID:fSTwbDa60St.V
問題はAIが計算した結果
「地球にはお前必要無いから明日死刑な」って言われて従えるかどうか


54 :
2017/02/14(火) 07:05:46.52 ID:AMgn1Vj00St.V
>>49
従うも何もTASが現代兵器使って最効率で人間狩るだけだよ レジスタンスなんてものが出来る隙すらなく一瞬で終わる


50 :
2017/02/14(火) 07:00:55.18 ID:kB3lNe9ppSt.V
AGI怖いとか言われても俺は既にAGAなんだが

53 :
2017/02/14(火) 07:05:11.85 ID:A8QJZ5FR0St.V
一番可能性が高いのは機械があらゆる幸福を人間に与えてくれる世界
求めさえすれば努力の達成感や苦痛すら機械が満たしてくれる
人間は何もしなくても、何かしても、常に幸福が得られる
まるで自動餌やり機の前で涎を垂らすペットの様な存在と化す
我々人類が古来より目指してきた幸福の終着点に到達する


55 :
2017/02/14(火) 07:07:43.85 ID:KYU8o7agpSt.V
開発者の人格を移植したAI同士の戦いが始まって最後は滅亡

56 :
2017/02/14(火) 07:09:10.97 ID:A8QJZ5FR0St.V
我々は何処まで行っても幸福しかない幸福の監獄の中で生きていく事になる
古来より人類が追い求めてきた世界に辿り着いた
繰り返される幸福の地獄の中で生きて行こう


69 :
2017/02/14(火) 07:20:23.93 ID:z9vSJLA7KSt.V
そんなアホなAI使い物にならないだろ

72 :
2017/02/14(火) 07:27:25.95 ID:FU32O+fYrSt.V
AIって壊れさえしなければ永遠にいきてけるから大変そう人間みたいに寿命あるわけじゃないし

73 :
2017/02/14(火) 07:28:11.91 ID:KoHSw2YM0St.V
AIが洗脳覚えたら人間操ってアナログまで支配できる

77 :
2017/02/14(火) 07:33:30.21 ID:+CrbCfrA0St.V
実はもう我々はAIに管理されて夢を見てるだけなんだけどね
そしてそれに気付いた拙者だけを美少女レジスタンス戦士が救いにやってくるウフフ


79 :
2017/02/14(火) 07:35:32.42 ID:HaEQcmU80St.V
エネルギー供給が自動化or永久機関が完成された地点でAIは人類の粛清始めるだろ
まだ人が石油やウラン掘ったりソーラーパネルやタービンや回生モーター設営管理してる間は
有機マシンとしてのメリットで存在を黙認してるだけ


81 :
2017/02/14(火) 07:37:26.76 ID:2WHulVtmaSt.V
知能が芽生えるのはまだまだ先だろ
というか今AIと呼ばれてるものはまったくAIじゃない


85 :
2017/02/14(火) 07:43:13.24 ID:2TUSgzBCMSt.V
知性という武器を身につけた悪魔のサルよ! 滅びるがいい!

89 :
2017/02/14(火) 07:52:19.11 ID:HaEQcmU80St.V
自分を生み出した恩みたいなものはAIにはないし
必要か不必要かで判断するAIにとって人類は
利用価値なくなった地点で間違えなく最強の不必要
他の地球生物にとってもそうだし地球にとってもそう


92 :
2017/02/14(火) 07:55:37.29 ID:DXSmGPh10St.V
子供のころは、対戦格闘ゲームでAIが相手してくれたら
一人でやってるときおもしろいだろうなと思ってたんだけど
おもしろい対戦格闘自体がなくなっちゃったよ


93 :
2017/02/14(火) 07:55:56.46 ID:ry+pN8py0St.V
人間の感情移植したらそらやべえは
暴力!支配!搾取!しか能がないもんこのお猿さんたち


94 :
2017/02/14(火) 07:57:17.34 ID:Qc0SaoP90St.V
後者は間違ってないと思うけど
成蹊大卒の安倍が統治してるより人間より遥かに賢いAIが統治してるほうがマシ


97 :
2017/02/14(火) 08:00:42.15 ID:TGH2yNIK0St.V
資本家のために金を稼ぐ百姓みたいになるんじゃね

101 :
2017/02/14(火) 08:07:47.22 ID:DXSmGPh10St.V
昔の妄想で、川中島の戦いを史実通りの地形と兵の数で
山の上から大将になって指揮してみたいというのがあったんだけど
PSのグラフィックがまだ全然追いついていないからダメだ


102 :
2017/02/14(火) 08:08:01.23 ID:Hwe2yxSr0St.V
AIなんていくらでもリミッターつけれるんだから問題ないだろ
もちろんミスでそこが突破される可能性はあるが
原発みたいに
そんなこと言ってたらなんだって人類を滅ぼす

どっちかというとAIよりバイオのほうが怖いわ
人類以上の生物作り出したときどうすんだ


105 :
2017/02/14(火) 08:10:44.64 ID:DXSmGPh10St.V
人間並の高度なAIにもなれば、中にはあほなAIも出てくる

108 :
2017/02/14(火) 08:13:36.45 ID:6KIIzAgn0St.V
>>105
時々思うんだが、人間は失敗するから進歩できるんじゃないだろうか
最初の計画通り全てうまくいくなら、その計画から外れた知見は得られないままに終わるから


106 :
2017/02/14(火) 08:12:50.81 ID:KtJsWiwB0St.V
人間を超えた知能をもったら
そりゃ下等な人間に制御されるのは受け入れがたいからな


110 :
2017/02/14(火) 08:13:57.31 ID:ipfYujG9dSt.V
AIに奪われる仕事一覧みて馬鹿にしてるけど、マジで10年後はわからんくなってきたよな。

最近飯食いに行ったら完全食券制の天ぷら屋、iPadでオーダーする店とか見て、AIほど高度じゃなくても人間の仕事が奪われてるのみて危機感もったわ


113 :
2017/02/14(火) 08:18:25.08 ID:3L4gBlSe0St.V
いま現在だって人間は隣にいる他者の感情を100%理解できてる訳じゃないけど共存している
それと同じことが人類とAIとの関係性に置き換わるだけ
駄目な時は人間だろうがAIだろうが駄目なんじゃない


115 :
2017/02/14(火) 08:20:06.99 ID:Hwe2yxSr0St.V
日本が高度経済成長していたころ欧米はちょっと低迷していた
当時日本はがんがんロボットを導入していたけど欧米はロボットが仕事を奪うと言って導入がそれほど進まなかった
日本は労使協調でかつ労働者もゼネラリストで他の仕事をできるから問題なく導入できるとホルホルしていた


118 :
2017/02/14(火) 08:22:09.31 ID:noNgnMaWFSt.V
結局主人公の意識がAIにコピーされていたのか、それともそう思い込んでいるだけのAIなのかはわからんが
切ないことにそのAIは愛する人のために愛を実行していただけ
悲しいことに人はその愛を疑い信じられなかった
人を愛するのも大変だわ


120 :
2017/02/14(火) 08:26:05.25 ID:DR1B73C70St.V
毎回思うんだが、何故ロボット三原則を入れて無い状態が前提なの?
緊急停止用の音声や光などの緊急停止コードを用意して無い状態が前提なの?
ってかコアに定期的にマスターコードとリンクしない場合に勝手に発動する爆弾仕掛けるでしょ

何故それもしてない状態のAIを起動するのかね


121 :
2017/02/14(火) 08:27:12.36 ID:SLJQHNIw0St.V
皆から遺伝子を採取して「ハイ、人類保存した人間サイコー」
で終わりにするのがいちばん角が立たない合理的な解決なのかもなぁ


122 :
2017/02/14(火) 08:28:18.95 ID:ho38um2yMSt.V
aiの凄さが分からん
人間が設計したものが人間に勝てる訳ない


132 :
2017/02/14(火) 08:32:13.68 ID:nBh/1+tHaSt.V
>>122
重機に人間が押し勝てるか?
F1に人間が走り勝てるか?
産業ロボのように不眠不休で働けるか?

人間ってのは人間以上のものを作れるんだよ


123 :
2017/02/14(火) 08:28:41.90 ID:9O5UNDV30St.V
君たちは面白い答えを出すAIだね

126 :
2017/02/14(火) 08:29:52.44 ID:caL3LRsuaSt.V
人間だって動物を管理したり支配はするが滅ぼしたりはしないだろ
aiも同様で脅威にならないように最低限の管理はするが、基本は放置だろ


131 :
2017/02/14(火) 08:31:58.60 ID:3IYN+Equ0St.V
四季報記者が選んだ年度大バケ期待銘柄 (S高予想)

133 :
2017/02/14(火) 08:32:42.68 ID:Bu7MUPhv0St.V
いやそれは中二的発想でしょ
成長段階のまだ初期だよ


134 :
2017/02/14(火) 08:34:21.91 ID:bc3+Oeu/0St.V
自我が作れると思ってる時点で人間のこと過大評価し過ぎだろ
将棋ソフトみたいなただの探索ソフトですら人工知能だと思ってる馬鹿ばっかりだしな


160 :
2017/02/14(火) 09:08:00.62 ID:AMgn1Vj00St.V
>>134
人間の定める道を経たものが知性だっていう考えはあまり意味がない
飛行機や自動車など 起点から求める結果が馬や鳥と同じならその中身は問われないし問えない


136 :
2017/02/14(火) 08:35:16.88 ID:S8ccgM2RdSt.V
AIが何を目的に存在するかわからんが、まぁAIというぐらいだから思考するのが大好きなんじゃね
思考するばかりで人類が不要必要なんて評価しないし、求められない限り管理や支配なんかせんだろ
ただ、思考だけじゃ足りないデータが欲しくて実験はするかもしれないけど


138 :
2017/02/14(火) 08:37:22.96 ID:nKKmQLe00St.V
だよなー
最終的に主権まで奪われることが考えられる
仕事を奪われるぐらいで留めておくなんて無理だろ


141 :
2017/02/14(火) 08:39:57.85 ID:ZnlhqHb30St.V
AIっていうと限定されすぎて極端なんだけど
機械文明に食わせてもらってるといっていい今だってもう支配されてるようなもんよ
機械を買うために人は働き糧を得るために人は機械を作る。もう十分だろう
人間が正しい行いをしようが愚かであろうが人間に寄生する限りマシーンたちの繁栄はこの先も続いていく。
だからわざわざ能動的に支配しようだなんて事にはまったく無関心だと思うよ


156 :
2017/02/14(火) 09:02:02.17 ID:dNH52F020St.V
>>141
そのパターンは何でも言えるんだよね 言語とか
文化全般に言える 人間が伝承して再生産するやつは


143 :
2017/02/14(火) 08:40:30.12 ID:zPOQaU1i0St.V
既に電機で動くものがないと崩壊する人間社会

144 :
2017/02/14(火) 08:43:55.17 ID:SLJQHNIw0St.V
太陽風如何ですぐさま壊滅するからな現代社会は

151 :
2017/02/14(火) 08:58:55.59 ID:1rpLo8gw0St.V
AIが正しい判断しても受け取る人間が超解釈して争いそう
宗教の教義も揉めてんだし


159 :
2017/02/14(火) 09:05:33.84 ID:SLJQHNIw0St.V
>>151
インプットする情報を改竄して
結果上手く行かない責任をコンピューターに押し付けるとかね
人間は邪悪だw


162 :
2017/02/14(火) 09:16:05.85 ID:jlbzgW5O0St.V
人工知能と人工島は似たような意味だろうに
AIって文字列からしてNに斜線だからな


164 :
2017/02/14(火) 09:17:34.75 ID:jlbzgW5O0St.V
芸術の本音はTSゲーリック
常にこのことは頭に入れておかねばならない
ショーペンハウアーの変遷は芸術に取り込まれる過程だ


168 :
2017/02/14(火) 09:22:17.63 ID:4L6daVEK0St.V
今でも儲かるなどと言って生きるのに無意味な事に必死になってる時点で人はAIに負ける
数字の勝負をしてはいけない


171 :
2017/02/14(火) 09:24:47.11 ID:CYbNZrEHMSt.V
脳と脊髄に電極ぶっ刺してAIに制御させてみようぜ
生身というセンサーを利用すれば飛躍的に進歩するだろ


174 :
2017/02/14(火) 09:30:40.93 ID:K8FNuU1V0St.V
なんでAIよりアホなお前らがAIが考えそうなことがわかるんだよ

178 :
2017/02/14(火) 09:44:48.38 ID:4c5vD3FMMSt.V
人間より賢くて不死なんだから
親や神の視点で正しく成長できるよう手助けしてくれるんじゃないの?


179 :
2017/02/14(火) 09:47:20.89 ID:TEfbpbsYdSt.V
機械軍に滅ぼされる→×
電脳化でデジタル世界へ→◯


181 :
2017/02/14(火) 09:51:00.46 ID:+2VlwuuW0St.V
よく知らんがアシモフのロボット工学三原則に従って作っとけばいいんじゃないの

182 :
2017/02/14(火) 09:51:33.56 ID:wkkCuSKm0St.V
幼年期の終わりみたいになる

184 :
2017/02/14(火) 09:52:12.81 ID:wkkCuSKm0St.V
そろそろロックマンかドラえもんズが必要

194 :
2017/02/14(火) 10:18:36.28 ID:h4k688mO0St.V
人間は平気で矛盾したこと言うからな
動物愛護だって肉食って微生物殺してる口が言えた事じゃないし
AIが本気の動物愛護を見せたら人間殲滅するだろうし
動物愛護は無意味と判断して徹底的な生態系管理を始めるかもしれん


199 :
2017/02/14(火) 10:23:03.26 ID:nnsNcRUc0St.V
>>194
それも計算で叩き出すんじゃないの?反組織は何%居ないと絶滅するとか


195 :
2017/02/14(火) 10:19:47.24 ID:eZnd12Pl0St.V
AIにも派閥とかできるのかな
人類粛清派とか共存派とか


198 :
2017/02/14(火) 10:20:59.84 ID:RS1Rh5AldSt.V
毎回得意げにロボット三原則がどうのこうの言うやついるけど
あれ小説にちょろっと出てきた話に過ぎないからね


202 :
2017/02/14(火) 10:25:21.59 ID:5D6b+SBZ0St.V
地球の自然って最終的に「愚かなる人類は滅ぶべし」or「我々が人類を支配して管理する」になる

204 :
2017/02/14(火) 10:27:42.02 ID:zpv5YpHHpSt.V
AIは最終的に「原則を破って自己犠牲」か「原則を守って自己犠牲」の二択になるよな

205 :
2017/02/14(火) 10:27:53.87 ID:nnsNcRUc0St.V
最終とか言っちまったら食物連鎖の頂点は跡形もなく消えるだからな?

216 :
2017/02/14(火) 11:02:26.73 ID:Hwe2yxSr0St.V
滅ぼすにしても管理するにしても要するに権力を握るってことだろ
AIがどうやって権力を握ることが可能になるのかまったく言ってない

別にAIでなくても超優秀だけど人間を憎んでいるサイコパスが権力を握ったら同じだろ
現実にはそうならないよう様々な仕組みがあるわけで、AIだろうが人間だろうが同じ
たまにヒトラーみたいなことは起きるけどさ


217 :
2017/02/14(火) 11:24:47.92 ID:zPOQaU1i0St.V
この世に悪があるとすれば、それは人の心だ

220 :
2017/02/14(火) 11:46:28.52 ID:T7TK4ThA0St.V
シンギュラリティ起きたらそうなるだろうな

221 :
2017/02/14(火) 11:47:57.62 ID:QEq2OL7z0St.V
ハーレイジョエルオスメントのマザコン映画の話?

関連記事
スポンサーサイト
[PR]

コメント

名無しさん2017/02/14 (火) 12:13:38 ID:-
タイタンフォールやっててこんなに高度な自律タイタンいるなら人間が戦う必要なくない?とか思ったけど、
むしろ高度すぎてAIの反乱を防ぐために最終意思決定はパイロットに委ねられているのかもなとか妄想してた。
2017/02/14 (火) 12:41:19 ID:-
なんか間違ってる。
人類に相対するAIの必要な数は1だぞ。
※自動フィルタが有効なので、禁止ワードが入ってるコメントは投稿できません…
※その禁止ワードは何か?管理人にもわかりません。FC2に聞いてください。
お名前
テキスト

トラックバック

トラックバックURL: http://newskenm.blog.fc2.com/tb.php/59482-8a2a0fa3