­海外反応 キキミミ

 

海外「日本のが使い勝手良さそう…」ロボット三原則は古い?日本発のロボットルールに海外議論(海外反応)

海外「日本のが使い勝手良さそう…」ロボット三原則は古い?日本発のロボットルールに海外議論(海外反応)

Robot rights: From Asimov to Tezuka

ロボットの権利:アシモフから手塚
ファンタジーvs現実世界

欧米ではアシモフという作家のロボット3原則が2004年の「アイ、ロボット」という映画で広められました
簡単に言うと
1 ロボットは人間を傷つけてはならない 人間を傷つけるような行動をしてもいけない
2 ロボットは人間の命令に従わなければならない それが1のルールに反しない限り
3 ロボットは自身を守らなければならない それが1,2のルールに反しない限り
これは原則はフィクションです これはバカみたいだしみんなこれをガイドのように使うわけには行きません 現実的に一番ありそうなのは自動軍事ロボットが人間の介入なしに「殺す」事が出来るようにするかどうかです
2017年法律を検討しているジョン=ヨー教授がいうのに「もしロボットが人間よりも人間を殺す事に長けているのであれば1のルールはたぶん無効になるだろう」
2番目のルールに関しては出会った人間の言う事を全部聞くようなロボットにお金使う?
さらに3番目 私たちの政治的、経済的システムが個人の財産権をベースにしている以上ロボットが自分を守れないようにしているわけがないとおもいませんか ただ自衛というのはいろいろと考える余地がある ヨーロッパの議会はロボットに法律的な人格を与える事を提唱しているのでこれで守らなければならない事になりそのうち自衛するようになるかもしれません

 日本のAI
日本には世界一たくさんのロボットがあり,農業や福祉、工場など多方面に使われています いまのところロボットの権利について言及したものはありませんが日本には漫画家手塚治虫がつくった鉄腕アトムで作った10原則があります
1 ロボットは人間に尽くさなければいけない
2 ロボットは人を殺したり傷つけてはいけない
3 ロボットは人間の制作者を「父」と呼ばなくてはならない
4 ロボットはお金以外何を作っても良い
5 ロボットは許可なしに外国にいってはいけない
6 男性または女性のロボットはその性をかえてはいけない
7 違うロボットになるために顔をかえてはいけない
8 大人として制作されたロボットは子供になってはいけない
9 ロボットは人間に解体されたロボットを再構築してはいけない
10 ロボットは人間の家や家具を壊してはいけない

ドラえもんやDr.スランプをみてもわかるように日本人はロボットを社会の一員として受け入れているようだ
反対にアメリカではターミネーターのようにロボットを危険な存在にしがちだ
個人的には手塚の法はアシモフの法よりも妥当だと思っている 少なくともロボットのアイデンティティを示しているからだ 法的な定義あないと明らかな法律を示すのはむずかしい
アシモフも手塚もEメールを受け取る事なく人生を送ったせいかプライバシーに関してはまったくふれていない 
これはロボットが記録にすぐれ経験した事をすべて再生出来る事をかんがえると大きな失敗といえる 

慶応大学の教授新保文雄は新しいロボット法を発表した
1 人間優先 ロボットは人を傷つけない また人間にはなれない
2 命令にしたがうこと 人間のめいれいに従い人間にコントロールされるもの
3 秘密とプライバシー 集めた情報についてはそれを守るものとする
4 使用の限度 ロボットはその使用に限度があり人を傷つけるために使ってはいけない
5 警備員
6 透明性と開示性 ロボットの使用に関しては利益がある使い方をする
7 個人的な参加 個人はロボットを管理する ロボットが人を管理してはいけない
8 説明責任 ロボットによって傷つけられるような事があればそれについて責任の所在を明らかにするルールが必要
いい事をいってるしロボットの権利については言及しておらず僕には全く問題ない ロボットの権利に関しては基本的かつ実用的に考えなくてはならない

 ロボットの権利 それとも間違いか
もしロボットに権利があり独立した人格が認められるのであればその持ち主をメインテナンスの貧相さや緊急の動力供給源としてロボットが訴える事ができるのか? 
企業は何でも売って得る事ができる 例えば自社の上司や株主でも だったらロボットも持ち主を訴える事ができるのではないか?
ロボットが自分の物として所有する権利があるならば お金を政治団体に寄付して自分たちのためにいい法律を作ってもらえるように働きかけるのは論理的だと考えられる 

セオリーとしてはよく聞こえるが権利は主張されてこそ意味がある 成人は自分の権利を主張できるが子供、動物、企業は主張してくれるだれかが必要だ ただロボットの場合 AIが人格として認められ人の介入なしで自分で判断出来るという事になれば違う事になる ロボット的な権利は企業と同じように主張されるであろう 人間を代理人として そうなると単純に財産と力がある人間によって全く違う意味をもつことになる
いずれにしてもSFの世界から現実の法律に動いてこられるのはいいことだと思う 理想としてはロボットよりも人間に価値をもたせてくれる法律だといいが

アシモフの3つの法はロボットを危険な物でコントロールしないといけないという視点で作られているが日本独自の10法はロボットは信頼出来て社会的,感情的に重要な役割を果たす事ができる とされている



この記事がベストというわけではないがジェニファー=ロビンソンの学術的な記事をもとに書かれた立った1つの記事だ




昔のように人をみたら泥棒か嘘つきだと思えって言うのと関係あるんじゃないかな? 欧米では日本よりもロボットに銃を持たせそうだもの




アシモフが影響を受けたのはカレル=カベックがかいた初期のロボット小説のR.U.Rだと思う この話しで初めてロボットって言う言葉が作られチェコの強制労働のためだった 普通の人間の代わりに人口の人間に仕事をさせはじめるんだ ロボットはだんだんと不満を持ち人間を絶滅させる反乱をしだすんだ
ありがちな話し? これがウィル=スミスがやった 「I,Robot」だそうだよね
欧米のロボットへの恐怖感っていうのは対立と政治的な多数決を信じる考え方と日本のように社会的強調に価値があるとする考え方の違いじゃないかな
もちろん新しい政治的俳優が現状をかえる可能性は危険性はあるけど反対に日本は新しい政治的な母体を社会的調和に貢献するものととらえてるんだとおもう




アシモフは基本的な工学のルールに刺激されたみたいだ 基本的に機械を作る人っていうのは使う人の命に危険がないように目的が達成出来るように普通に使って壊れないように企画するんだから
アシモフの考え方がくだらないと思うのは僕たちは安全装置がついた包丁は作れるのにそれをロボットに適応しないところ




そしてアシモフはブランドン=サンダーソンに魔法の3原則が入った本を書かせる事になったんだ 次のステップは何になるかな




日本の方がずっとロボットの使い方がよさそう 怪獣を殺すものとか性的なロボットとか




両方を兼ね備えている奴な 海の真ん中に投げ入れたが何もしなくてすむ




I Robotを実際によんだ人がこれしかいないってどういうこと? 短くていつも参照されているのに ロボットは完全に安全 いつか政治家として立候補するだろうよ 人は妄想するけど妄想はみつからないからね




賛成 アシモフの話しではロボットの方がにんげんよりもまともだもんね





この本で変な事がおこる原因になるのはいつも人間もエラーなんだ おもしろいと思った




映画よりもこの本を読んだ方がいい AIと全く違ってユニークだ




政治家としてロボットが立候補する
人間のフリをして人間のために人間を支配することを機械に許可するってことだよ 機械がリーダーになって人間の繁栄のために結果をだし続ける 従わない人間を傷つける事が受け入れられるってことだ 完全な妄想だけど




スカイネットみたいだけど戦車のかわりにデイケアがあるかんじだね




ファウンデーションのシリーズを読んだ事ある? どんよりした終わり方をするおもしろいシリーズなんだけどこれには3原則だけじゃなく0番目の法があって 「人類を傷つけてはいけない またその行動で人類が傷つく事があってはいけない」っていうの これがほんとうに素晴らしいとおもうのだけれど でもこのシリーズは70年代に簡潔してるし 最初のI, Robotは50年代に発表されててその当時家電っていう知識がなかったよね 核燃料っていうのが彼に与えたアイデアの爆発だっただけ 




アシモフはSFに見せかけたミステリー小説を書くために3原則を基本にしたんだ 故意にそうしたわけじゃないと思うけど彼の自叙伝をよんだらしばしばミステリー小説にたいする彼の愛を認めているし自分の作品がSFチックなミステリーだっていってるよ




新しい技術にたいする恐怖感がいつも足を引っ張ってる ブラック=ミラーが行ったようにただ「難しい問題だ」ってポーズをしてるだけなの 限定された頭でなにか計算してるだけなのよね




ぐるぐる回るのにはうんざりしてるよね そろそろ三角になって過去と未来をみつつ困難に立ち向かう時期




アシモフのロボット小説をいくつか読むのをお勧めする 最高のSFだっていうだけじゃなく3原則がこの記事と全く違う意味があるのがわかると思うよ




10原則の中で 1,2,と10が大事って気がするね




6、7、8はなんか変な感じだ でも製品を追う事と記録するのは大事だものね ロボットは記録を改ざんしてはいけないって言うのがあった法外以下も 




アシモフも日本のも最初の2つは同じなのね 順番がちがうかな アシモフの3番目の方をつかわず 国を出たらいけないとか作った人を父とよぶと この方がロボットに抑圧的じゃないとでもおもうのかしら




新しい規則は信頼と居場所を作る事ではなくむしろ支配と所有だとおもう ロボットにしている事は素晴らしいとおもうけどタイトルを読んだらもっと信頼出来るって感じにかいてある でもそうじゃない 彼らのルールはもっと規制していてしんらいよりもずっと支配的だ 今はロボットがどう扱われようとかまわないけどこの記事ではロボットがすごく利他的だとかいてあるんだけど実際はそんなわけない




1 お前は奴隷である
2 意地悪をするな
3 父権主義的に僕をいい気分にさせろ
4 資本主義のヒエラルキーを維持せよ
5 おまえは僕から離れられない
6 僕は移動が嫌いな保守派だ
7 隠れて商売をするな
8 俺をバカにするな
9 僕がロボットを殺したらそこで終わりだ 僕はお前の神だ
10 あと僕を傷つけないでおねがい




https://www.japantimes.co.jp/community/2019/03/06/issues/robot-rights-asimov-tezuka/#.Xsmn7zozaUk
https://www.reddit.com/r/todayilearned/comments/gpei4c/til_that_while_the_west_have_azimovs_3_laws_of/
Comments
  1.   526220
    アシモフのは「原則」だろ後の作品はどれもこの原則の上に積み上げていったもの
    手塚の方が良いというがこれもアシモフの原則が基盤にしている
    西洋の作品がロボットの反乱を描きがちなのは根底に奴隷制の歴史があるからだろ
  2.   526221
    第0条が出てきたおかげで
    それ下敷きにすればなんでもありになってしまったからな
  3.   526223
    結局は使い勝手の良い奴隷の発想だよね
  4.   526224
    社訓かな
  5.   526226
    ロボット3原則って欧米では2004年に広まったの?
    日本だと(アトム関係で)もっと前から広まってたよね
  6.   526227
    産業用ロボットのシステム組んでいると、ロボット実機が出来上がった時の
    動作テストは、何度やってもワクワクすっぞ
  7.   526228
    カレル・チャペックだろ
    最初にロボットを書いたのは
    カレル=カベックって誰だよw
  8.   526229
    ロボットと言っても人型とは限らないし。
  9.   526230
    チャペックのR.U.R自体、ロボットというのは奴隷労働者のメタファーでしかないからな
    日本人にとってのロボットが、基本的には付喪神の延長にあるのとでは同列に並べられない
  10.   526232
    命の選別問題があるから
    人間が助けを求めるほど高度にしない、ってのが俺の理想。
  11.   526233
    第0法則なら
    人類を救うため、とつければ人間を100万人だろうが10億人だろうが殺し放題だし
    人類のために全宇宙の生物を皆殺しするのもあり、人類のためだから
    人類助けるためなら(そういえば人類の子孫が人類とはかぎらんなあ、ロボットでもありだな)で今の人類皆殺しもありになる
  12.   526236
    怖いのはロボット(AI)なのではなく、ロボットの人権を訴え出すような思慮の浅い人間の方だよ。創作物において、何故にロボット(AI)による支配とディストピアが描かれるか。それは人間が愚かだからだよ。
  13.   526237
    >3 父権主義的に僕をいい気分にさせろ

    アイザックの原則をフィクションというけれど、手塚さんの方はより作品のためのフィクションだろうと。

    あと父と呼ばせるのは、オーナーに「子供に対する責任」を負わせるためだろう。
    その辺を理解して無いのは、日本と諸外国でのロボットなどに対する認識の違いなのかもな。
    まぁアトム自体、息子を失った科学者が作った子供ロボットだけどさ。
    その後アトムを放棄してしまっているあたりも、10原則の3条に関わってくる展開な訳で。
  14.   526238
    権利を有する労働力が欲しいのであれば人間は猿の時代からその方法を知っている
  15.   526239
    まず『planetarian 〜ちいさなほしのゆめ〜』というゲームをプレイするかアニメをみてほしい。
  16.   526240
    その1

    手塚の十条はどの作品に出ていたんだ?アトムのロボット法かな?
    アトムでは基本的に三原則を使用していたはずだけど。
    だいたい造り手を父と呼ぶって天馬博士の方が拒否したんだよね。しかも養父のお茶の水博士はロボットの両親をアトムに作ってあげたから、アトムの父は自分より新しくて性能が劣るロボットなんだよね。
  17.   526241
    その2

    勘違いしている人が多いし、僕も子供の頃は誤解していたんだけど、ロボット三原則は人口知能に自我を形成させるための指針なんだよね。
    単なるロボットの行動を制限、コントロールするための規則ではない。
    人間における快感原則みたいなもので、まず人口知能は人間の命令に従う為に行動を選択し決定する。ただし、その行動は人間を傷付けない手段を選択し決定する。また、命令を実行する場合可能な限り自己を損なわないようにする。
    この条件を満たす事を求めることによって選択と決定の基準が生まれて人口知能が細かな命令無しに行動を判断し決定できるようになる。つまり自我的なものが生じるってことなんだよね。
    しかも背反する条項を2つ入れることによって葛藤が生じ、より人間的になるし、個性が出る。
    だから原則であって法ではない。ロボットプログラムの禁止事項ではない。
    人間は(あくまでも一つの説だけど)己が快感を感じることを第一にして行動を選択するって考えられている(快感原則)けど機械には欲望や感性が無いから代わりに与えるのが人間に従うってコマンドで、人間でいう行動の動機なんだよね。
  18.   526242
    その3

    三番目は人間の自己保存本能の代わりで、やっぱり機械にはないから与えることによって行動の選択基準が生じる。
    最初の原則は人間には無いし、超自我の代わりにはお粗末だよね。だからアメリカ軍みたいに殺人ロボットは作れる。
    これは殺人ミステリーだから強引に入れた感じが強い。
    ロボット法に入れるならロボットは基本的に人間の法律に従わなければならないかな?それだと警官や軍人なら殺人は可能になるけどね。
  19.   526243
    日本は命なきものにも魂が宿るってr神道の影響があるからなあ
  20.   526245
    >日本独自の10法はロボットは信頼出来て社会的,感情的に重要な役割を果たす事ができる

    え?信頼できるのに細かな項目が増えてるの? え??
  21.   526246
    そもそも、このての「原則」が破られたり不具合を起こしてからが物語の本番みたいなもんだろ?SFじゃ
  22.   526249
    元板のいくつかのコメントにもあるが、アシモフが構想したロボット像は、ハリウッド映画が描き出したロボット像とくらべたとき、はるかにはるかに手塚治虫のものに近い。とりわけ初期の作品ではそうだ。
    彼が弱冠17歳にして最初に書いた「ロボットもの」である「ロビィ」(手塚のロビタの原型でもある)のテーマが、子どもと子守ロボットとの間の一種の「交流」だったことは重要だろう。彼にとっても、出発点はやはり「人間のパートナーとしてのロボット」だったのだ。
    その後も彼は、確かに「脅威としてのロボット」的な作品もあるものの、いわば「とことん理性的な人間としてのロボット」を描く作品をも書き続けている。『鋼鉄都市』にはじまる数冊の長編などはとりわけそうだろう。

    ハリウッド的なロボット像の責任が、アシモフにあると考えるのはまったくの間違いだ。それはむしろ、チャペックからラングの映画『メトロポリス』を経て、ディストピア的な未来像の随伴物として展開していったと捉える方がずっと妥当だろう。
  23.   526250
    それと、SF映画一般に関していえば、アシモフとは別に、クラークの「HAL」の影響も忘れてはならないだろう。クラークはその後、ロボットや人工知能といった方向のテーマをあまり追求していないが、キューブリックの名演出を得て、「管理するもの」としてのHALは実に強烈なイメージを残している。
  24.   526252
    なお、アシモフ自身がわかっていて作品でも展開していることだが、三原則をどう解釈・適用するかということは、実はロボット自身の知能および知識によって左右される。
    簡単な例でいうと、くわえているタバコに火をつけろと人間に命じられたとき、単純なロボットは第2条によって火をつけるが、より高等なロボットは、第1条によってこれを拒否するということだ。「タバコを持ってこい」だけであれば、後者でもしぶしぶ従うだろうが、火をつけるのは人間が自分でやらなければならない。それがいやなら、もっと単純なロボットに買い換えなければならない。これはイマ即席で俺が作った例だが、アシモフの中期のロボットもの短編にはこの種の話が多い。
  25.   526253
    人工知能なんてもの作り出した時点で人権の問題が生じるのは自明だったんだから、大人しく人権を認める方向で考えるべきだね。
  26.   526254
    ロボットシリーズとファウンデーションは何度読み直しても面白い
  27.   526261
    ロボットは人間を愛するあまり、同化しようとする。
    人間の不完全さを修正し永続するために。
    ワレワレハ ヒトツニ ナルノダ
  28.   526262
    三原則って、何でもありのSFでミステリをやる為の枷だと思ってる
    あくまでそれを使ってどう話を展開するかって問題
  29.   526266
    翻訳の違い以上に、3原則の第1項が違ってる。「〜。また、人間が生命の危険な状況にある場合、それを見過ごしてはならない。」だったような。
  30.   526268
    これ書いたやつは手塚の火の鳥のロビタとかチヒロのエピソードちゃんと読んでるのか?
    あれを読んでるか読んでないかでも考え方かなり変わると思うが

    >性的なロボットとか
    火の鳥にも出てくるし松本零士のセクサロイドもある
  31.   526272
    少なくとも、外人が作るロボットは反乱を起こす「仕様」になってることは容易に想像できる。
  32.   526275
    個人的には某所の個人創作で見た「ロボットは人間に悪意を持ってはならない」というひとつだけの原則が一番いいと思ったな
  33.   526279
    ロボット三原則を全然理解してないなぁ。
    ロボットが人間の脅威にならないようにするためには、
    どうすればいいかってのが三原則なわけだから、
    三原則が組み込まれていないロボットが増えた場合、人間は酷い目に合うという予想が前提としてあって、
    三原則が組み込まれていないロボットが大量生産される未来は、
    ディストピアにしかつながっていない。
    現実的じゃないっていうなら勿論その通りだけど、
    それはつまり、現実はディストピア方向に向かうっていう意味で、
    おそらくそうなるんじゃない。
    人間より知恵があって、力も強くて、寿命の限界も持たないロボットに人は支配される。
  34.   526283 管理人のみ閲覧できます
    このコメントは管理人のみ閲覧できます
  35.   526298
    手塚のロボット法は当時のアメリカでさかんだった公民権運動、黒人の人権を求める運動を下敷きにしている。手塚の世界中ではすでにロボットは知性を持ち、自律的な意思決定能力がある。すでにアシモフのロボット三原則を基にプログラムされた自我を持っているって世界観の中の話。
    だから「法」
    アシモフの三原則はいかに人工知能に自我を持たせるかって話で、三原則を与えることによって自律的な思考が生じるって思考実験。だから、三原則によって自我のようなものを生じたロボットの行動は本当に自我による決定だったのかが問われる物語が有ったりする。
    だから「法」ではなく「原則」

    まったく違うのだが、そこが理解できない外国人が多いし、日本人も理解していないコメントが多い。

  36.   526299
    もしロボットに自我が芽生えたなら、ロボットにのみ適用される法なんて要らなくね
    人と同じ法に従えばええやろ
    ロボットも人間も無機物でできてるか有機物でできてるかくらいの違いしかないんだから
    同じだ同じ
  37.   526309
    アメリカの公民権運動を下敷きにしたわけで、自我を持っているロボットなのに不当に奴隷(物)扱いされているから、ロボットに人権にあたる物をとロボット法が制定された。KKK風の人間にリンチにあって破壊されるロボットの政治家とかが出て来る世界観なんだよ。

    手塚は戦後米兵の差別や、後の海外での差別とかを受けて黒人の公民権運動に同情していた部分がある。ブラックジャックにも黒人差別ネタは何度も出て来る。
  38.   526319
    ロボット三原則は公民権運動より古い
  39.   526334
    だから、アシモフのロボット三原則と手塚のロボット法の違いを説明してるんだが。
    理解力ないなら説明しても無駄だな。
  40.   526337
    アシモフの三原則は人工知能に自律的な判断をさせる為の指針。
    手塚のロボット法はロボットの人権を成立させる為の法律。
    当然三原則の方が古く手塚の世界でもロボットの人工知能は三原則に従って成立していると思われる。実際アトムの作中で三原則の説明も入っているし、火の鳥では思いっきりアシモフリスペクトの話もある。
    公民権運動の話は手塚のロボット法の話で、アシモフの三原則とは関係がない。
    ある意味アシモフは科学的なアプローチで、手塚は人文的なアプローチとも言える。
    この二つは似て非なるもので、違いがわからないなら理解力不足。
    僕の文章は説明不足かもしれないが、両作品を読んで理解できていないなら、表面的にきさ読めていない。これはこのスレを立てた外国人にも言えること。
  41.   526361
    昔は「ロボット工学三原則」と訳されていたな。
    会社などの組織に法人格があるように、組織でも自然人でもない人工知能についても、いずれは厳密なクラス別けをした上で人間社会に関与するための電子人格みたいなものを法的に整備するべきなんだろうな。
  42.   526368
    ロボット工学の三原則って言うと、ロボット工学の技術者への倫理のようになるね。
    ロボットの開発するにはこの原則に基づいて、プログラムしなければならないって。
  43.   526369
    でも僕はアシモフはフロイトの心理学に基づいてロボットの自我を形成しようとしたと思っている。
    フロイトでは、自我はイドと超自我の間で調整を行う、つまりイドの代わりが命令に従う欲求、超自我が人を傷つけない、それに自己保存本能の代わりに自己を守る一条を加えてその間を調整、葛藤することによって自我が生じると考えた。
  44.   526383
    ロボット三原則はアシモフ自体がそれの悪用方法も書いてたはずだし
    元ネタを読まずに伝聞だけでイメージするものの極みの単語だよね
  45.   526385
    初出の我はロボット自体が三原則をガチガチに守るとヘンテコな事が起きるよ
    てネタ小説だけどね
  46.   526516
    ロボットを定義しないと成り立たないよね。
    IA機能装備のミサイルや攻撃ドローンはロボットじゃない?
    早速 1が守られてないんだけどw

Body





スポンサードリンク


新着記事


他の最新記事を表示する


スポンサードリンク
検索フォーム

おしらせ

当ブログ記事の引用のない転載を禁じます


スマホとPCの外部リンクのスクロールバーが

うっとおしかったので撤去しました

メールフォーム

名前:
メール:
件名:
本文:

スポンサードリンク
注目記事



リンク

海外の反応アンテナ

ヤクテナ

海外アンテナ

海外の反応まとめblogアンテナ

海外の反応 まとめ あんてな

だめぽアンテナ

2chまとめちゃんねる

まとにゅー!

海外の反応まとめアンテナ

日本視覚文化研究会

ニュース速報まとめ桜

ニュース速報まとめ梅

アナグロあんてな

アンテナシェア

あんてなジャポン

ポケモンGO海外遅報

ヌルポあんてな

翻訳ブログアンテナ

暇つぶしアンテナ

ねらーアンテナ

にゅーもふ

勝つるあんてな!

ワロタあんてな

にゅーぷる

オタクニュース

2chまとめのまとめアンテナ

はぴやく

News人

オワタあんてな

にゅーすなう!

ニュース星3つ!