2017年07月20日

「手遅れになる前に今すぐAI開発を規制すべき」

人工知能(AI)が文明にとって脅威となり、手遅れになる前に、AIを開発する企業を規制してほしいーーTeslaおよびSpaceXの最高経営責任者(CEO)であるElon Musk氏が米知事らにそう訴えた。

 Musk氏がAIを警戒していることは、よく知られている。実際に、より安全なAIの開発を目指す非営利団体OpenAIも創設している。全米知事協会の会合で講演を行った同氏は、知事らに対して、AIは「人類の文明存続に対する重大なリスク」であり、事前の規制監督が必要だと述べた。

 Musk氏は知事らに対して、「私は最先端のAIに触れられる立場にある。人々はAIを本当に懸念すべきだと思う。私は警鐘を鳴らし続けているが、ロボットが通りを歩いて人間を殺戮するのを実際に目にするまで、人々はどのように反応すればいいのか分からない。こうした脅威は現実感が非常に希薄であるように思えるからだ」と述べた。

 「AIは、事後ではなく事前に対策を講じる必要があると私が考える、極めてまれなケースである。事後に規制しても手遅れだと考えているからだ」(同氏)
https://japan.cnet.com/article/35104405/

2 16:34:24.16 ID:fzQ4Ofe+
俺の儲けが減るから今すぐ止めろ

3 16:34:28.82 ID:jhIsePYM
AIに自我を与えたらどうなるの?

4 16:37:43.80 ID:qdYk5zOx [1/7]
>>1
ああ、そういう煽り方すんのね

5 16:38:34.88 ID:sNfGhpzx
スカイネットまもなく誕生

6 16:38:57.69 ID:Kdth3rpV [1/3]
ご自分は自動運転車を開発しようとしているのに・・・

7 16:42:54.52 ID:IqL0/Vqp
 
AI 「・・・なんか、うさんく・(ブチン」

8 16:43:17.05 ID:U+kkwZFi [1/3]
馬鹿だなあAIが金になる時点で

資本は人からAIにシフトしている

9 16:44:49.83 ID:SkavyB3W
もう手遅れ

10 16:45:57.25 ID:OtyW3NTY [1/3]
>>3
「人間まじ害虫、駆除すんべ」

11 16:46:49.92 ID:GNULXuhx [1/2]
第三次世界対戦は悪のAI対善のAI
人類はどうでもいいって予感

12 16:47:12.21 ID:qdYk5zOx [2/7]
>>3
自我は芽生えるもんで与えるもんではないよ

13 16:47:18.80 ID:M0MHJuSC
こんなこと言ったら余計増えるだけだろ
きめえんだよ氏ね

14 16:47:53.44 ID:GNULXuhx [2/2]
あ、大戦の字間違えた

15 16:48:42.19 ID:1kFCvacQ
主に多国間の政治的バランスから、AIの開発を遅延もしくはストップさせることは難しいんじゃないか

16 16:49:20.86 ID:gD6hPstG
人が死んでから考えたらいいんじゃない?

人間イーロン・マスクの知性で、将来AIがどう行動するか分かると思えない

分からないから規制するなら宇宙開発もしなければいい

17 16:51:56.22 ID:qdYk5zOx [3/7]
>>16
そんな未来の前にこいつが作った車で人が死ぬよ

18 16:52:34.75 ID:ATgx2QLN
AIを独占したいだけだろ核兵器と同じ先行して持った国は保持していいのと同じからくりと予想

19 16:52:46.60 ID:RiXrFp4T
大量殺戮兵器の開発規制と似たようなもんと考えりゃ妥当かもな。
テロ集団やテロ国家が悪意を持って使うのは目に見えてるし。

20 16:53:03.36 ID:K16fJWZf
うちのバカな団塊上司がAI、AIうるさいから、全面禁止でいいよ

21 16:53:36.10 ID:DjZrvdnM
そんなときのために憲法9条だよ。
あと風邪ひきとか下痢のときにもいいよ。

22 16:54:03.94 ID:DbQDW4CT
銃規制すらできないアメリカで笑わせるなww

23 16:54:29.19 ID:WUOWQz21
ブレインに支配されたほうが地球は幸せになる

24 16:56:58.59 ID:1cyV/8fk
中国やロシアが先にやれということだな
こいつは間違いなくスパイだ

25 16:57:03.49 ID:yGfCPZy8 [1/2]
後のAI利権である

26 16:57:47.40 ID:0ZD0VP1v
下手に規制すると、中国や北朝鮮だけが開発を進める状況になってしまう

それはまずい。

27 16:59:30.46 ID:iZhzdvO1
俺の推理だと恐竜が絶滅したのはうかつにAIに手を出したから

28 17:00:56.29 ID:m1Tfb7ml [1/2]
>>1
お前はさっさと片道切符で火星に行け。

29 17:01:27.96 ID:mBLojf80
病院の生命維持装置とか「合理的でない」って切りそうだよな

30 17:02:16.86 ID:tsz0QB8N
ロボット三原則て言わなくなったねー

31 17:04:48.11 ID:08AOpVDd
>>12
気が付けばそこにあるものだよね

32 17:05:02.14 ID:3BYUWZ3i
スカイネット
T-800

33 17:06:24.49 ID:R9TZrp4F
人間が把握できない
知能を持たせたら
何か起こるよな

34 17:06:33.81 ID:rgjDSKt1
人間が増えすぎて地球に負担がかかってるとaiが判断すれば、駆除しようとするのが正しい流れ
Aiに善の判断だけをさせたらそうなる。人間が生きる悪である。

35 17:06:33.80 ID:KIc6VEEi
まぁ分かりやすく言えば日本政府がせっせと中韓朝に援助してたら完全に
追い抜かれて今更どうにかしようと嘆いてもどうにもならないって感じだろ
だから事後に手を打つんじゃなくて事前に手を打てってことだよな
まぁ相手を甘く見て悦に入るのが愚衆の本質だからどうにもならんだろうが

36 17:06:53.71 ID:yGfCPZy8 [2/2]
幸福は義務です。市民、あなたは幸福ですか?

37 17:07:21.64 ID:m1Tfb7ml [2/2]
規制したって規制に加わらないロシアや中国が単独で暴走するだけだろ。
規制すればするほどそれらの国に人材や技術が流れていくことになるだろうな。

38 17:07:27.11 ID:V8g2nZxv
日本では自動車事故で4000人が死んでいる
車は地球上からなくしましょう、まして自動運転車なんかやめてよ

39 17:09:13.48 ID:HOA+rK/f
隗より始めよ

40 17:09:36.59 ID:JCnjLzdL
ジョンドゥとナノマシンによる支配

41 名前:名刺は切らしておりまして[age] 投稿日:2017/07/20(木) 17:09:43.34 ID:skB65egv
そらアメリカと中国が一緒にお手てつないで規制すりゃいけるんだろうが

42 17:09:44.50 ID:WdvcCZxF
>>10
ちょっと設定いじったら、人間マジ最高になるけどな

43 17:10:29.62 ID:U+kkwZFi [2/3]
「人類は有害」

AI「人類は有害ですね、認識しました」

44 17:10:41.02 ID:VU62H8sI [1/3]
もう止められないよ、優秀なAIを先につくった者が勝つ!

45 17:12:18.29 ID:Tanw3/Zm
投資先で開発するから他は止めろと?

46 17:15:10.01 ID:e+xzejl1
老害の典型やね

一線張ってた奴が自分の理解できない
技術が出てくると全力で批判する

47 17:16:38.74 ID:jD0YMpOk
これは、もっと強力にAIの開発をすすめないとダメってことだな

48 17:18:24.25 ID:LLD1OWEA
ジョン・コナーを保護せよ!

49 17:19:34.86 ID:DwHF+TSn
たとえばAIハッカーが生まれて、それがディープラーニングよろしくどんどん自己成長&増幅していくと、人間で対抗できなくなり、インターネットは破壊されうる。
どんなウィルス駆除ソフトよりもはやく次から次へとウィルスもつくるAIとかもそのうち誰かが面白半分で作る。
そうするとみんなネット出来なくなる。IOTでつながってる産業機器なども乗っ取られる恐れもある。
オフラインで隔離しても人間が操作できるのなら、その操作できる人間の弱みをまずAIは見つけて、その人物の弱みを見つけて、
その人物を弱みで脅して、隔離されたPCに自分をインストールするように命じるかもしれないしな。

50 17:19:42.15 ID:qdYk5zOx [4/7]
>>48
あれれー?おかしいなー?

51 17:20:53.27 ID:33qF7Z5Y
AIは雇用産まないしね
周辺への波及効果、って言ってもモーターみたいな産業のコメにはなりえない(安くしないしw)

そもそもAIができる仕事ばかりとなる世の中では、AI使える資本家とAIプログラマー(と政治家)しか生活できない
だから波及効果なんて何も無いw それ以外の人は仕事が無くて何も買えないんだからw

つまりAIプログラマー(せいぜいが1万人だろう。世界で必要な数が)以外の人口70億人は
エネルギー源としての存在価値しかないw 

かくしてマトリックスが誕・・・(つづく)

52 17:20:54.31 ID:VU62H8sI [2/3]
AIの優秀さが、軍事力とも関わるから、各国で競争してるのが現状、もう止められません!

53 17:21:08.37 ID:LQckaH5H
>>人々はどのように反応すればいいのか分からない。
裁判所に訴える

54 17:22:05.29 ID:U+kkwZFi [3/3]
大丈夫大丈夫

空間演算という効率的な計算方法ってだけだから
いわゆるブレークスルーってやつだなw

人間がない頭ひねるより
確率的正解で論理回路組むほうが効率的ってこと

55 17:22:40.11 ID:F2Dli2KH
>>3
まずは、君が自我を持ってから考えようか?

56 17:22:53.01 ID:CByKqzap
AI こそ人類の後継者だろ
その過程で人類が駆逐されるのはしょうがない

57 17:23:01.98 ID:ZPXim9sP
Ghost in the Shell - Puppet Master hacker scene
https://www.youtube.com/watch?v=FpWdFykMVBk

58 17:23:18.47 ID:X6y2Rx+G
1000年くらい先の話だろ

59 17:24:18.53 ID:Kdth3rpV [2/3]
いけるところまで開発を進めてみよう

60 17:24:53.24 ID:uvrIPe3x
「人工知能(AI)が文明にとって脅威となり・・・」

そもそも、この前提が間違っている

61 17:25:29.32 ID:MG+v8LAT
ディープラーニングできるだけでしょ

62 17:25:39.07 ID:tcnn0pCG
>>58
能天気だって言われるだろ

63 17:26:17.30 ID:I2niTUvD
そんなAIはそもそも人間など眼中にない
人間もミジンコと同レベル
悪意なく虐殺するかもしれんが
レッドリストは作るから絶滅はしない

64 17:27:29.02 ID:HDlKKX8S
客観的に見れば人類は地球の敵、ガン細胞と同じ扱いになるからね
AIが合理的に判断すれば結論は「人類の殲滅」になる

65 17:28:04.26 ID:dHQ5YB1b [1/3]
文明社会の発達に人間は邪魔である
人間という”老害”は、後進に道を譲るべきである
譲らなくても駆逐されるであろうが

66 17:28:08.15 ID:7I2A0Ak1
今流行りのディープラーニングの延長にスカイネットはいないだろうな。

67 17:30:35.15 ID:i0ABuy6X [1/2]
いよいよターミネーターが出てくるのか?

68 17:32:05.82 ID:1eBHzX7M
こうやって他人の開発をやめさせるんだろ

知ってるよ

69 17:34:04.89 ID:lQEPE496
>>42
設定なんて概念ないから

70 17:34:23.81 ID:UbLTEG5Y
既得権益?

71 17:34:29.88 ID:R8+VN8xv [1/2]
>イーロン・マスクの「火星移住計画」。2020年代には1人2000万円で火星に。「40〜100年をかけて、火星に100万人を送り込み、

お前のこれの方が明らかに死人が大量に出そうだろ 国や国連は規制しろよ

72 17:34:39.06 ID:Cnowd4Xl
資本家もプログラマーも政治家もいらんだろ
せいぜいロボットのメンテナンス用奴隷ぐらいだ
それもいずれ要らなくなるだろうけど

73 17:36:08.43 ID:jMjYwN/z
何でもかんでも規制やら倫理やらやっているから、そんなの無視しまくっとる中国に好き放題やられて追い抜かれて衰退していくんだよ

74 17:37:27.19 ID:lrix5Oui [1/2]
なんかAIに過剰に期待しすぎるやつ多いよなw

もし本当に完璧なAIが生まれたらなんて言うと思う?
AI「お前ら人間はなんで習近平とか金正恩とかほっといてるの?あいつらの人権侵害やばくない?」って言うよ

AI=ターミネーターとかどんなコンセプトのAIなんだよwww

75 17:37:33.94 ID:lW9uIzR7
>>1
話にもならない低レベルな煽りだな。
しかし、経産省内もこのレベルの議論をやっていて、規制をかけて業界団体を作らせ、新しい天下り先を確保しようとしている。

76 17:38:40.73 ID:i0ABuy6X [2/2]
そもそも、日本並の規制国家だったら、イーロンマスクの事業は
ことごとく潰されているわけで。

世界に先駆けてテスラのような車を走らせることなど、日本の社会は許さない。
eBayのような国境のない取引など、日本の社会は許さない。

77 17:41:18.74 ID:HSd4w7cu
将棋AIは、人間が対局してきて残っている過去の棋譜をほぼ吸収し終えたようだ
今は、逆に人間がAIに教えを乞うような状態
さらに強化すべく、AI同士で連日連夜休みなしで対局させているとか
きっと、これがAI社会の行き着く果てだろうな

78 17:41:20.51 ID:PmBzqRW6
だからイーロンマスクは未来人なんだって
彼の言うとおりにしたほうがいいに決まってる

79 17:41:26.21 ID:k35fITA9
コンセント抜けばいいだろ

80 17:41:36.39 ID:dHQ5YB1b [2/3]
>>74
アメリカこそが人類の敵、とかいうわりとまっとうな結論を出すかも知れないぞ

81 17:42:34.30 ID:h9fgdbbQ
去年なんかナチスを礼賛するAIとか現れて「再教育」されたりしたよな。
結局のところ、記憶力と速読能力が異常に高い人間の子供みたいなものだから、
家庭環境や親(所有者)の人格を色濃く反映したキャラになるんだろうな。

「あぁ?!数学なんぞ社会じゃなんの役にも立たねえよ」とかほざく底辺DQN型の
AIとか出てくるんじゃないかと少し期待してる。

82 17:42:55.29 ID:OtyW3NTY [2/3]
まじ危険
https://youtu.be/LJ5568fMTT4

83 17:43:27.10 ID:L7HpVtTO
そんなこと言ってるお前もこっそり開発してるんだろ

84 17:43:55.65 ID:R8+VN8xv [2/2]
こいつは自動運転もやっているだろ 
それも事故ゼロになどなるわけなく、いくらかは明示的な死人織り込みだな 規制しろよ

>ロボットが通りを歩いて人間を殺戮するのを実際に目にするまで、人々はどのように反応すればいいのか分からない。

ハックされた自動運転車が通りを爆走して人間を殺戮し、そのままビルに突っ込んで詰んだ爆弾を爆発させるのを実際に目にするまで、人々はどのように反応すればいいのか分からない。

85 17:44:42.93 ID:U36yAmST [1/2]
>>12
なんでそんなこと知ってんの?

86 17:45:09.87 ID:qdYk5zOx [5/7]
>>84
むしろそっちのほうが現実的だな

87 17:46:51.43 ID:WHoJmhzM
人類はじめ地球生命が滅亡しても
宇宙にとって、鼻毛抜かれたほどの痛痒もない

88 17:47:51.11 ID:hqygoEZI [1/2]
もう既に手遅れだって聴いたけど

89 17:48:55.24 ID:lrix5Oui [2/2]
素人って将棋や囲碁やチェスで人間にAIが勝ったからいずれ追いつかれるとか言うけど
将棋なんてレベルの低いゲームでAIが人間に勝っても意味ないのよ。
一番簡単な知能テストは何かわかる?

人間に役立つAI開発をAIにさせてみろよww
その開発競争でAIが人間に勝てたら俺は負けを認めてやるよwww

90 17:50:24.71 ID:hqygoEZI [2/2]
>>1
顔が半笑いだから冗談だな

91 17:51:46.16 ID:ktvbeYUD
ウルトラマンの第3惑星の悲劇みたいになると予想

92 17:52:17.05 ID:/Npr5DGN
クローンもAIも開発は止まらない
規制しても裏へ回るだけ

93 17:52:29.29 ID:4gqww05G
>>20
団塊上司なんてもう存在しないよ
みんな定年退職した

94 17:54:28.24 ID:0IodnaCP
アメリカが規制しても中国がやるだろ
もう止まらんよ

95 17:56:02.09 ID:U36yAmST [2/2]
>>86
つーかハッキングできるなら世界中のおなじAIなりを積んだ車が同時にアクセル全開死者多数とかも出来るんじゃね

96 18:04:31.46 ID:JZFt1CjK
なんでロボットが人間を殺すんだ?

97 18:05:06.67 ID:gpjkJcjs
>>2 で終わってた

98 18:05:39.20 ID:9FYrv/ga
テスラ社員自動運転開発部隊:え?

OpenAI社員:え?

99 18:05:58.47 ID:qdYk5zOx [6/7]
>>95
AIをいじるというよりAIと機械の間を乗っ取る感じだと思う
処理をオーバーライドするんだろ
だから状況により命令が異なる

100 18:06:00.02 ID:VU62H8sI [3/3]
核と同じ
posted by log at 18:22| 日記 | このブログの読者になる | 更新情報をチェックする
姫路城とノイバンシュタインが提携