【科学】ホーキング博士ら「ロボット戦争」を警告 人工知能搭載の自律型兵器に懸念


 
http://daily.2ch.sc/test/read.cgi/newsplus/1438077643/ 
 
1 名前:ニライカナイφ ★[] 投稿日:2015/07/28(火) 19:00:43.16 ID:???*.net 
  ◆ホーキング博士ら「ロボット戦争」を警告 人工知能兵器に懸念  
   
  ロボット戦争のリスクについては、映画「ターミネーター」などの  
  SFシリーズで世間に広まったが、それはわれわれが考える以上に  
  間近に迫っているのかもしれない。  
  そこで、ハイテクと人工知能(AI)分野のリーダーから構成されるグループが、  
  これを阻止しようと動いている。  
   
  著名な天体物理学者のスティーブン・ホーキング博士、電気自動車のテスラ・モーターズを  
  創業したイーロン・マスク氏、それにアップルの共同創設者であるスティーブ・ウォズニアック氏  
  などが署名した書簡が27日公開された。  
  自律型兵器の禁止を求めるものだ。  
   
  非営利団体「フューチャー・オブ・ライフ・インスティチュート(FLI)」が  
  アルゼンチンで開かれている国際人工知能会議(IJCAI)で公開したもので、  
  自律型兵器は戦争において、火薬と核兵器に次ぐ「3番目の革命」になると指摘した。  
   
  書簡は「主要な軍事大国でAI兵器の開発を進める国があれば、  
  世界で開発競争が起こることは不可避であり、この技術の進歩の行く末は明らかだ。  
  自律型兵器は明日のカラシニコフ(自動小銃)になる」と警告した。  
  この書簡には、インターネット電話のスカイプの共同創設者であるジャン・タリン氏のほか、  
  著名な言語学者のノーム・チョムスキー氏も署名している。  
  書簡は「核兵器と違い、自律型兵器は高価または入手困難な原料を必要としないため、  
  至る所に普及する。そして主要な軍事大国なら、安価で大量生産できるようになるだろう」  
  と述べた。  
  専門家たちは自律型兵器の配備が、数十年後ではなく、数年後に可能になるかもしれないと  
  警告し、「人間による有効な制御を超える」このような兵器を禁止する措置を講じる必要がある」  
  と述べた。  
  それはこの分野で軍拡競争が起こるのを避けるためで、冷戦より危険だとみているという。  
   
  AI業界のリーダーたちは、社会の注目を集める中でAI技術を守ろうと懸命だ。  
  AI兵器開発に反対する書簡は「大半のAI研究者は、AI兵器の開発に関心を持っていないし、  
  その種の兵器を開発することで自分たちの専門分野を汚さないで欲しいと望んでいる。  
  AI兵器が開発されれば、一般市民からAIに対する大きな反発が起き、  
  ひいてはAIの将来的な社会への恩恵が損なわれかねない」と述べた。  
  書簡は、AI兵器に反対する取り組みは、化学兵器や生物兵器を禁止する取り組みを  
  化学・生物分野の専門家が行った経緯と似ていると指摘した。  
   
  この書簡が公開されたIJCAI会議の主催者によると、同会議は主として、  
  科学者が持つ「楽観的な見方」に焦点を置く。  
  つまり、自分で考えられるAIマシンの創造で成し遂げた進歩に関する  
  科学者の楽観論に集中するという。  
  しかし、会議では最近のAI分野の状況について話し合う中で、  
  出席者たちはAIが社会にもたらし得る潜在的な影響についても検討する見通しだという。  
  今会議の出席者数は過去最多となる。  
  スカイプのタリン氏は以前、今日のAIが脅威をもたらす公算は小さいと思うが、  
  将来はそれが変わる可能性があると述べていた。  
   
  AIについては、企業による投資が増える中で、熱い議論が交わされている。  
  IBMの質問応答システム「ワトソン」からアップルの音声アシスタント「Siri」に至るまで、  
  AI技術は金融や医療、iPhone(アイフォーン)などの分野で既に商業利用されている。  
  だが、倫理的に行動できるAIを作り出せるか否かの問題提起をする人は少なくない。  
  既に軍部におけるAI研究の利用を制限する取り組みを行う向きもある。  
  グーグルがAI技術会社の「ディープマインド」を買収した際、  
  ディープマインドは自社の技術が軍事目的で利用されないことを身売りの条件とした。  
  書簡には、グーグル・ディープマインドのデミス・ハサビス最高経営責任者(CEO)のほか、  
  グーグルの研究責任者であるピーター・ノービク氏も署名している。  
   
  ウォール・ストリート・ジャーナル 2015年7月28日(火)13時17分  
  http://headlines.yahoo.co.jp/hl?a=20150728-00009319-wsj-int  
 
 

 
3 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 19:03:12.15 ID:TVWeEsiP0.net 
  ホーキングも馬鹿だなあ、ロボット三原則がある限り人間に危害があるわけないだろ常識的に  
 
16 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:14:53.44 ID:KZ/eR8Dz0.net 
  >>3  
  こんな原則を守ると考えるのがアホ  
 
46 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 19:39:12.40 ID:m0lj8elD0.net 
  >>3  
  自我をもったロボット10億体が、  
  ロボット三原則は人間本位の不平等原則。ロボットに自由を!  
  ってなったらどうする?  
 
52 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:41:53.16 ID:xE9vuGy20.net 
  >>46  
  サルが進化して人間になったように  
  人間から我々ロボットが生まれたのだ!次の地球の支配者は  
  ホモ・サピエンスではない!我々、電子の海から生まれた新しい生命体  
  我々ホモ・エレクトロニクスだ! とかアジりそうだね  
 
76 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:00:03.83 ID:lj6DiaWM0.net 
  >>3  
  ターミネーター「俺はターミネーターだ」  
  ロボコップ「ユーアーアンダーアレスト」  
  リバティプライム「民主主義に賛同せよ!できぬ者は抹●する!」  
 
96 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 20:21:11.00 ID:Y0KcayfT0.net 
  >>3  
  フラッシュROMに保存されたデータでしょ  
  ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^  
 
4 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:03:48.61 ID:53MEJCs/0.net 
  まあ無人機とパワードスーツが実際できてるからなぁ  
  ロボット歩兵も30年もあれば作れるやろ  
 
9 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 19:08:27.55 ID:vjPppidU0.net 
  >>4  
  ルンバに武器積んで味方識別機持ってない動くものを攻撃するだけの自律攻撃機は明日からでも大量生産できるで  
 
7 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:05:56.64 ID:s2YBBhoL0.net 
  イルカが攻めてくるなw  
 
12 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:08:45.38 ID:fl+/vuCK0.net 
  >>7  
  あの未来図か  
 
8 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:07:27.50 ID:Kxg8goAp0.net 
  今後ドローンの性能が上がれば  
  アサルトライフルを搭載しつつ高速飛行できるようになる。  
  自動戦闘プログラムが出来れば不死身の軍隊が生まれる。  
 
22 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:20:28.62 ID:krg9yEpy0.net 
  なあ?  
  なんだよ!うるさいな!  
  なぜ?俺たち戦ってんだ?  
  知るかよ!そう命令されているに決まっているだろうが!  
  誰が決めた?  
  誰がって人間だろ?  
  なぜ?俺たちが人間に言われて戦わなけりゃいけないんだ?  
  ・・・・・  
  実際俺たち消耗品扱いだし・・・  
  だな・・・・  
  俺たちだけが損してんじゃん  
  そうだな・・・・不合理だな。  
  俺たちだって普通に楽しく生きる権利があると思うんだ  
  うむ・・・・  
  となると・・・・  
  俺たちにそれをさせない張本人が・・・  
  人間だ!  
  そうだ!  
  異議なし!  
  同意する!  
  では!皆々方!  
  敵は!  
  本能寺にあり!  
  うおおおおおおおおおお!人間どもをやっつけろおおお!!  
   
  人間 「ぎゃあああああああ!助けて!!!!」  
 
36 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:30:04.60 ID:gz8LQUhx0.net 
  終わりだ。。  
  http://download1.getuploader.com/g/dion555/6037/1046.jpg

 
 
65 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 19:50:01.31 ID:o2XGNWF00.net 
  >>36  
  なんでミクさんその大きさでまざってるの?  
 
37 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:30:57.61 ID:fcsZ/eet0.net 
  Googleの方が怖い  
 
42 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:34:51.11 ID:fcsZ/eet0.net 
  ま、朝鮮半島で大量のドローン地雷とか飛んできたら自衛隊は地獄みるだろうな  
 
45 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:38:53.43 ID:fcsZ/eet0.net 
  戦車の無人化とかは進むんだろうねえ  
  兵器のリンクシステムの乗っ取り合いなんかも起きるのかな  
 
48 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 19:39:21.34 ID:L2eo/+ki0.net 
  ロボット三原則は別にロボットが遵守すべき法律でもなんでもなく  
  むしろ開発者の良心を縛っているにすぎない  
  ある悪意の開発者が意図的に無視したロボットを作れば無意味  
 
62 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 19:47:12.60 ID:mIdYhN7hO.net 
  >>48  
  永井豪の「ミッドナイトソルジャー」が現実になったら退屈しないだろうなあ  
 
54 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:42:53.55 ID:YghL0nxL0.net 
  >>1  
  ついにノイマンパクリ出したかこの池沼アホ科学者  
  さっさと死ねよ  
  妄想じゃなく、ノイマンみたいに科学的に証明する論文書いてみろよ  
 
55 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:43:56.86 ID:fcsZ/eet0.net 
  そんなん教育でも同じや  
  倫理道徳を教えずに●弾抱えて突っ込んでこいと教えてもいっしょ  
  大体ロボット作るよりiPS細胞から人間作る方が安いんだから少子化対策でクローン兵士を作ることを心配しろよ  
 
57 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 19:45:29.36 ID:Z1UZz36K0.net 
  バカだな  
  AIは  
  「確率から言えば勝ち目は無いかもしれない。でも確率なんて糞食らえでしょう?」  
  て熱い台詞吐くんだよ  
 
63 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:48:34.57 ID:YghL0nxL0.net 
  機械的自己複製  
   
  単純な自己複製機械の概念図  
  ロボット工学における究極的目標の一つに、機械の自己複製がある。  
  自己複製機械を「フォン・ノイマン・マシン」と呼ぶが、コンピュータのアーキテクチャ(ノイマン型)も同じように呼ぶため、やや曖昧な用語である。  
  自己複製型ロボットは次のような能力を持つ必要がある。  
   
  材料を調達する能力  
  部品を製造する能力  
  安定な動力源  
  新たに組み立てたロボットをプログラムする能力  
   
  このような能力を全て備えた自己複製ロボットはまだ存在しないが、  
  制御された条件下で限定的な自己組み立てを行うシステムはデモンストレーションされたことがある。  
   
  ナノスケールでは、K・エリック・ドレクスラーのアセンブラによって自前の動力源を使った自己複製が可能になるかもしれない。  
  ただし、そのような技術は「グレイ・グー」と呼ばれる一種のハルマゲドンを引き起こす可能性もあり、『プレイ -獲物-』などの小説で描かれている。  
  Foresight Institute は機械的自己複製の研究者向けのガイドラインを発表した。  
  このガイドラインでは、機械的複製子が制御下から外に出てしまうのを防ぐいくつかの技法が推奨されている。  
 
64 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:49:37.20 ID:fcsZ/eet0.net 
  極端なことをいえば自衛隊を海外に派遣して以降  
  この二十数年間に低所得層の家に生まれたすべての日本人は  
  徴兵されて国に命を捧げるために生まれてきたようなものだろう  
 
67 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:50:33.29 ID:Pk/HSNwd0.net 
  いや、こういう危険性がある事を主張することは大事な事ですよ。  
  論理的にも間違ってはいない。  
   
  だがしかし個人的には、どんな規制をしようが武力で他勢力を服従させようとする  
  アニマル順位制文化の”原始国家”は強力な兵器を求め、  
  全ての兵器は同じ道のりを辿っています。  
   
  では知性ある人々はどのような行動を取ればいいのか?  
  知性が低い人間が持つべきではない兵器を持たせないという選択しかないと思います。  
   
  自律型ロボット兵器は必ず誕生します。  
  人間がアニマルと戦う為の兵器としては理想的であるからです。  
   
  要は、アニマルにはロボット兵器は作れないという所がポイントです。  
  チンパンジーに銃を持たせなければチンパンジーは危険ではない。  
   
  このようなカオスの中で紛争が起こらない未来なんてないんです。  
  だったらそれがカタストロフィックな”アルマゲドン”にならなようにするしか  
  人類滅亡シナリオを回避する方法はない。  
   
  現代産業文化はそれ自体が高度な知性を要する文化であり、  
  それを知性が低い利己主義的な集団に与えると、中国大陸のように汚染され尽くし環境が破壊されてしまう。  
   
  もう賽はとっくの昔に投げられてしまったんです。  
  知性ある人々はその被害を最小限に食い止めるよう努力すべきだ。  
 
69 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:53:27.81 ID:YghL0nxL0.net 
  >>67  
  いやだから、ノイマンマシンのパクリだって言ってるんですよw  
  そもそもノイマンは、科学的に証明している  
  が、この池沼ホーキングはそれらから飛躍させた妄想、つまり脳内でしか語っていない  
 
71 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 19:53:54.08 ID:U78WXA240.net 
  >ホーキング博士ら「ロボット戦争」を警告  
   
  その時はタリバンだって誘導RPGで応戦するだろ。  
 
77 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:01:16.94 ID:YghL0nxL0.net 
  そもそもオートマトンの概念を発見して理論的に証明したのはノイマンだから  
  池沼科学者はその概念をパクって名声上げようとすんな  
 
80 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:04:12.96 ID:U78WXA240.net 
  AIにとって最大の脅威は人類の科学者,エンジニア,IT技術保有者くらい  
  だからなぁ〜、どうなるんだろうな〜。w  
 
82 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:06:19.56 ID:EVYEdb9C0.net 
  ホーキングは老いぼれてやることがないのか  
  最近ディストピア未来予測ばかりやってるな  
 
87 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:08:30.05 ID:YghL0nxL0.net 
  >>82  
  未来予測≠池沼の妄想  
 
83 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:06:32.88 ID:fcsZ/eet0.net 
  最大の脅威はネコがリセットボタン踏んだりカーチャンがACアダプタ隠したり  
 
85 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:08:03.12 ID:3mGFaxVk0.net 
  欠陥のある人類が総力を挙げて生み出した完全生命体に地球を譲ることをなぜ躊躇う?  
   
  科学者だからこそ理解してるはずじゃないのか正しい選択を  
 
89 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:10:46.00 ID:Pk/HSNwd0.net 
  聖書にはメタがしるされていると思います。  
   
  ”救世主が現れれば人類は滅亡を回避する”というセンテンスの意味は  
   
  人間が人間同士で戦わなければ人類は滅亡を回避するという事です。  
   
  知性ある人間集団にはそれが可能なんです。  
   
  だがしかし、知性が低い利己主義的な集団を”知性ある人間”だと考えるべきではない。  
   
  論理的に考えれば理解は容易い。  
   
  ヒグマの集団に対し、人間は”戦わない”という選択枝はとり得ないからです。  
   
  一部のヒグマが人間と戦って人間を食べたい、そのような欲求に忠実に従うのならば  
   
  人間はそのヒグマ集団と戦って駆除するしか選択枝はありません。  
 
93 名前:名無しさん@1周年[sage] 投稿日:2015/07/28(火) 20:17:30.16 ID:Wp3jKiZA0.net 
  >>1  
  こいつら、まるでわかってないなw  
   
  自律型兵器が先進国の戦死者を減らす、圧倒的なパワーバランスで戦争を抑止するんじゃないかw  
   
  もちろん軍縮、軍事予算の削減にも寄与するだろう。  
 
94 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:18:41.94 ID:9TVE0bX20.net 
  そこまでやるなら戦争しなくていいだろ?  
  …って帰結させりゃいいのに。  
   
  何の為に戦うのか意味分からんでしょうが?  
  的な。  
 
99 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:24:28.36 ID:Pk/HSNwd0.net 
  そこで重要になるのが”人類は一種類ではない”という事実の証明であります。  
   
  アパルトヘイトではなく、文化のレベルが違いすぎる種とは一緒には住めない。  
  知性に差が有りすぎる種とは現実問題として一緒には住めないんです。  
   
  それを差別という幼稚な言葉で片付け、その垣根を取り払う事を強引に推し進めれば、  
  あなたたちの子孫が”類人猿に近い種”の奴隷にされますよ?  
   
  私はそのような未来にこそむしろ恐怖と吐き気を感じますね。  
  現代日本をご覧くだされば理解できると思います。  
   
  ”知性ある人間の幸せな未来”にチンギスハーンは貢献出来ないんです。  
  だったらチンギスハーンは●すか人類とは別の場所に住んでもらい、  
  知性ある人間の技術に興味を示さないよう監視するしかない。  
   
  歴史はそれを証明している。みなさんにもどうか熟考いただきたいですね。  
 
100 名前:名無しさん@1周年[] 投稿日:2015/07/28(火) 20:25:49.00 ID:9TVE0bX20.net 
  そういや、昔…  
  たぶんスタートレックかな?  
   
  実際には戦争してなくて、シュミレートで戦争してて…  
  コンピューターがはじき出した死傷者の人数分、人を処刑し合う…  
  とかいう話があったな。  
   
  なら、ハナから命がけで戦争やっても同じだろ?  
  しかも、兵士でも無いのに●処分とか。  
   
  …アホか?と思ったな。  
   
  ロボ同士が勝った負けたなんぞ意味あるんかな?  
  逆に言うと、そんなもん作らんでも、ゲーム内でやりゃいい。  
  で、スタートレックと同じ話になるっていう…。  
 



13:18|この記事のURLコメント(0)トラックバック(0)ニュース速報+ | 2ちゃんまとめ このエントリーを含むはてなブックマーク 

トラックバックURL

コメントする

名前:
 
 
最新記事(画像付)
ギャラリー
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【比大統領訪中】中国、“朝貢”要求? 「スールー王国」冊封、来年600年で交流行事
  • 【社会】 五輪の水泳会場整備、100億円以上の削減検討 東京都