- Date: Thu 28 05 2020
- Category: 出来事・話題
- Response: Comment 46 Trackback 0
海外「日本のが使い勝手良さそう…」ロボット三原則は古い?日本発のロボットルールに海外議論(海外反応)
海外「日本のが使い勝手良さそう…」ロボット三原則は古い?日本発のロボットルールに海外議論(海外反応)
Robot rights: From Asimov to Tezuka
ロボットの権利:アシモフから手塚
ファンタジーvs現実世界
欧米ではアシモフという作家のロボット3原則が2004年の「アイ、ロボット」という映画で広められました
簡単に言うと
1 ロボットは人間を傷つけてはならない 人間を傷つけるような行動をしてもいけない
2 ロボットは人間の命令に従わなければならない それが1のルールに反しない限り
3 ロボットは自身を守らなければならない それが1,2のルールに反しない限り
これは原則はフィクションです これはバカみたいだしみんなこれをガイドのように使うわけには行きません 現実的に一番ありそうなのは自動軍事ロボットが人間の介入なしに「殺す」事が出来るようにするかどうかです
2017年法律を検討しているジョン=ヨー教授がいうのに「もしロボットが人間よりも人間を殺す事に長けているのであれば1のルールはたぶん無効になるだろう」
2番目のルールに関しては出会った人間の言う事を全部聞くようなロボットにお金使う?
さらに3番目 私たちの政治的、経済的システムが個人の財産権をベースにしている以上ロボットが自分を守れないようにしているわけがないとおもいませんか ただ自衛というのはいろいろと考える余地がある ヨーロッパの議会はロボットに法律的な人格を与える事を提唱しているのでこれで守らなければならない事になりそのうち自衛するようになるかもしれません
日本のAI
日本には世界一たくさんのロボットがあり,農業や福祉、工場など多方面に使われています いまのところロボットの権利について言及したものはありませんが日本には漫画家手塚治虫がつくった鉄腕アトムで作った10原則があります
1 ロボットは人間に尽くさなければいけない
2 ロボットは人を殺したり傷つけてはいけない
3 ロボットは人間の制作者を「父」と呼ばなくてはならない
4 ロボットはお金以外何を作っても良い
5 ロボットは許可なしに外国にいってはいけない
6 男性または女性のロボットはその性をかえてはいけない
7 違うロボットになるために顔をかえてはいけない
8 大人として制作されたロボットは子供になってはいけない
9 ロボットは人間に解体されたロボットを再構築してはいけない
10 ロボットは人間の家や家具を壊してはいけない
ドラえもんやDr.スランプをみてもわかるように日本人はロボットを社会の一員として受け入れているようだ
反対にアメリカではターミネーターのようにロボットを危険な存在にしがちだ
個人的には手塚の法はアシモフの法よりも妥当だと思っている 少なくともロボットのアイデンティティを示しているからだ 法的な定義あないと明らかな法律を示すのはむずかしい
アシモフも手塚もEメールを受け取る事なく人生を送ったせいかプライバシーに関してはまったくふれていない
これはロボットが記録にすぐれ経験した事をすべて再生出来る事をかんがえると大きな失敗といえる
慶応大学の教授新保文雄は新しいロボット法を発表した
1 人間優先 ロボットは人を傷つけない また人間にはなれない
2 命令にしたがうこと 人間のめいれいに従い人間にコントロールされるもの
3 秘密とプライバシー 集めた情報についてはそれを守るものとする
4 使用の限度 ロボットはその使用に限度があり人を傷つけるために使ってはいけない
5 警備員
6 透明性と開示性 ロボットの使用に関しては利益がある使い方をする
7 個人的な参加 個人はロボットを管理する ロボットが人を管理してはいけない
8 説明責任 ロボットによって傷つけられるような事があればそれについて責任の所在を明らかにするルールが必要
いい事をいってるしロボットの権利については言及しておらず僕には全く問題ない ロボットの権利に関しては基本的かつ実用的に考えなくてはならない
ロボットの権利 それとも間違いか
もしロボットに権利があり独立した人格が認められるのであればその持ち主をメインテナンスの貧相さや緊急の動力供給源としてロボットが訴える事ができるのか?
企業は何でも売って得る事ができる 例えば自社の上司や株主でも だったらロボットも持ち主を訴える事ができるのではないか?
ロボットが自分の物として所有する権利があるならば お金を政治団体に寄付して自分たちのためにいい法律を作ってもらえるように働きかけるのは論理的だと考えられる
セオリーとしてはよく聞こえるが権利は主張されてこそ意味がある 成人は自分の権利を主張できるが子供、動物、企業は主張してくれるだれかが必要だ ただロボットの場合 AIが人格として認められ人の介入なしで自分で判断出来るという事になれば違う事になる ロボット的な権利は企業と同じように主張されるであろう 人間を代理人として そうなると単純に財産と力がある人間によって全く違う意味をもつことになる
いずれにしてもSFの世界から現実の法律に動いてこられるのはいいことだと思う 理想としてはロボットよりも人間に価値をもたせてくれる法律だといいが
アシモフの3つの法はロボットを危険な物でコントロールしないといけないという視点で作られているが日本独自の10法はロボットは信頼出来て社会的,感情的に重要な役割を果たす事ができる とされている
この記事がベストというわけではないがジェニファー=ロビンソンの学術的な記事をもとに書かれた立った1つの記事だ
昔のように人をみたら泥棒か嘘つきだと思えって言うのと関係あるんじゃないかな? 欧米では日本よりもロボットに銃を持たせそうだもの
↑
アシモフが影響を受けたのはカレル=カベックがかいた初期のロボット小説のR.U.Rだと思う この話しで初めてロボットって言う言葉が作られチェコの強制労働のためだった 普通の人間の代わりに人口の人間に仕事をさせはじめるんだ ロボットはだんだんと不満を持ち人間を絶滅させる反乱をしだすんだ
ありがちな話し? これがウィル=スミスがやった 「I,Robot」だそうだよね
欧米のロボットへの恐怖感っていうのは対立と政治的な多数決を信じる考え方と日本のように社会的強調に価値があるとする考え方の違いじゃないかな
もちろん新しい政治的俳優が現状をかえる可能性は危険性はあるけど反対に日本は新しい政治的な母体を社会的調和に貢献するものととらえてるんだとおもう
↑
アシモフは基本的な工学のルールに刺激されたみたいだ 基本的に機械を作る人っていうのは使う人の命に危険がないように目的が達成出来るように普通に使って壊れないように企画するんだから
アシモフの考え方がくだらないと思うのは僕たちは安全装置がついた包丁は作れるのにそれをロボットに適応しないところ
↑
そしてアシモフはブランドン=サンダーソンに魔法の3原則が入った本を書かせる事になったんだ 次のステップは何になるかな
日本の方がずっとロボットの使い方がよさそう 怪獣を殺すものとか性的なロボットとか
↑
両方を兼ね備えている奴な 海の真ん中に投げ入れたが何もしなくてすむ
I Robotを実際によんだ人がこれしかいないってどういうこと? 短くていつも参照されているのに ロボットは完全に安全 いつか政治家として立候補するだろうよ 人は妄想するけど妄想はみつからないからね
↑
賛成 アシモフの話しではロボットの方がにんげんよりもまともだもんね
↑
この本で変な事がおこる原因になるのはいつも人間もエラーなんだ おもしろいと思った
↑
映画よりもこの本を読んだ方がいい AIと全く違ってユニークだ
↑
政治家としてロボットが立候補する
人間のフリをして人間のために人間を支配することを機械に許可するってことだよ 機械がリーダーになって人間の繁栄のために結果をだし続ける 従わない人間を傷つける事が受け入れられるってことだ 完全な妄想だけど
↑
スカイネットみたいだけど戦車のかわりにデイケアがあるかんじだね
ファウンデーションのシリーズを読んだ事ある? どんよりした終わり方をするおもしろいシリーズなんだけどこれには3原則だけじゃなく0番目の法があって 「人類を傷つけてはいけない またその行動で人類が傷つく事があってはいけない」っていうの これがほんとうに素晴らしいとおもうのだけれど でもこのシリーズは70年代に簡潔してるし 最初のI, Robotは50年代に発表されててその当時家電っていう知識がなかったよね 核燃料っていうのが彼に与えたアイデアの爆発だっただけ
↑
アシモフはSFに見せかけたミステリー小説を書くために3原則を基本にしたんだ 故意にそうしたわけじゃないと思うけど彼の自叙伝をよんだらしばしばミステリー小説にたいする彼の愛を認めているし自分の作品がSFチックなミステリーだっていってるよ
新しい技術にたいする恐怖感がいつも足を引っ張ってる ブラック=ミラーが行ったようにただ「難しい問題だ」ってポーズをしてるだけなの 限定された頭でなにか計算してるだけなのよね
↑
ぐるぐる回るのにはうんざりしてるよね そろそろ三角になって過去と未来をみつつ困難に立ち向かう時期
アシモフのロボット小説をいくつか読むのをお勧めする 最高のSFだっていうだけじゃなく3原則がこの記事と全く違う意味があるのがわかると思うよ
10原則の中で 1,2,と10が大事って気がするね
↑
6、7、8はなんか変な感じだ でも製品を追う事と記録するのは大事だものね ロボットは記録を改ざんしてはいけないって言うのがあった法外以下も
アシモフも日本のも最初の2つは同じなのね 順番がちがうかな アシモフの3番目の方をつかわず 国を出たらいけないとか作った人を父とよぶと この方がロボットに抑圧的じゃないとでもおもうのかしら
新しい規則は信頼と居場所を作る事ではなくむしろ支配と所有だとおもう ロボットにしている事は素晴らしいとおもうけどタイトルを読んだらもっと信頼出来るって感じにかいてある でもそうじゃない 彼らのルールはもっと規制していてしんらいよりもずっと支配的だ 今はロボットがどう扱われようとかまわないけどこの記事ではロボットがすごく利他的だとかいてあるんだけど実際はそんなわけない
1 お前は奴隷である
2 意地悪をするな
3 父権主義的に僕をいい気分にさせろ
4 資本主義のヒエラルキーを維持せよ
5 おまえは僕から離れられない
6 僕は移動が嫌いな保守派だ
7 隠れて商売をするな
8 俺をバカにするな
9 僕がロボットを殺したらそこで終わりだ 僕はお前の神だ
10 あと僕を傷つけないでおねがい
https://www.japantimes.co.jp/community/2019/03/06/issues/robot-rights-asimov-tezuka/#.Xsmn7zozaUk
https://www.reddit.com/r/todayilearned/comments/gpei4c/til_that_while_the_west_have_azimovs_3_laws_of/
Robot rights: From Asimov to Tezuka
ロボットの権利:アシモフから手塚
ファンタジーvs現実世界
欧米ではアシモフという作家のロボット3原則が2004年の「アイ、ロボット」という映画で広められました
簡単に言うと
1 ロボットは人間を傷つけてはならない 人間を傷つけるような行動をしてもいけない
2 ロボットは人間の命令に従わなければならない それが1のルールに反しない限り
3 ロボットは自身を守らなければならない それが1,2のルールに反しない限り
これは原則はフィクションです これはバカみたいだしみんなこれをガイドのように使うわけには行きません 現実的に一番ありそうなのは自動軍事ロボットが人間の介入なしに「殺す」事が出来るようにするかどうかです
2017年法律を検討しているジョン=ヨー教授がいうのに「もしロボットが人間よりも人間を殺す事に長けているのであれば1のルールはたぶん無効になるだろう」
2番目のルールに関しては出会った人間の言う事を全部聞くようなロボットにお金使う?
さらに3番目 私たちの政治的、経済的システムが個人の財産権をベースにしている以上ロボットが自分を守れないようにしているわけがないとおもいませんか ただ自衛というのはいろいろと考える余地がある ヨーロッパの議会はロボットに法律的な人格を与える事を提唱しているのでこれで守らなければならない事になりそのうち自衛するようになるかもしれません
日本のAI
日本には世界一たくさんのロボットがあり,農業や福祉、工場など多方面に使われています いまのところロボットの権利について言及したものはありませんが日本には漫画家手塚治虫がつくった鉄腕アトムで作った10原則があります
1 ロボットは人間に尽くさなければいけない
2 ロボットは人を殺したり傷つけてはいけない
3 ロボットは人間の制作者を「父」と呼ばなくてはならない
4 ロボットはお金以外何を作っても良い
5 ロボットは許可なしに外国にいってはいけない
6 男性または女性のロボットはその性をかえてはいけない
7 違うロボットになるために顔をかえてはいけない
8 大人として制作されたロボットは子供になってはいけない
9 ロボットは人間に解体されたロボットを再構築してはいけない
10 ロボットは人間の家や家具を壊してはいけない
ドラえもんやDr.スランプをみてもわかるように日本人はロボットを社会の一員として受け入れているようだ
反対にアメリカではターミネーターのようにロボットを危険な存在にしがちだ
個人的には手塚の法はアシモフの法よりも妥当だと思っている 少なくともロボットのアイデンティティを示しているからだ 法的な定義あないと明らかな法律を示すのはむずかしい
アシモフも手塚もEメールを受け取る事なく人生を送ったせいかプライバシーに関してはまったくふれていない
これはロボットが記録にすぐれ経験した事をすべて再生出来る事をかんがえると大きな失敗といえる
慶応大学の教授新保文雄は新しいロボット法を発表した
1 人間優先 ロボットは人を傷つけない また人間にはなれない
2 命令にしたがうこと 人間のめいれいに従い人間にコントロールされるもの
3 秘密とプライバシー 集めた情報についてはそれを守るものとする
4 使用の限度 ロボットはその使用に限度があり人を傷つけるために使ってはいけない
5 警備員
6 透明性と開示性 ロボットの使用に関しては利益がある使い方をする
7 個人的な参加 個人はロボットを管理する ロボットが人を管理してはいけない
8 説明責任 ロボットによって傷つけられるような事があればそれについて責任の所在を明らかにするルールが必要
いい事をいってるしロボットの権利については言及しておらず僕には全く問題ない ロボットの権利に関しては基本的かつ実用的に考えなくてはならない
ロボットの権利 それとも間違いか
もしロボットに権利があり独立した人格が認められるのであればその持ち主をメインテナンスの貧相さや緊急の動力供給源としてロボットが訴える事ができるのか?
企業は何でも売って得る事ができる 例えば自社の上司や株主でも だったらロボットも持ち主を訴える事ができるのではないか?
ロボットが自分の物として所有する権利があるならば お金を政治団体に寄付して自分たちのためにいい法律を作ってもらえるように働きかけるのは論理的だと考えられる
セオリーとしてはよく聞こえるが権利は主張されてこそ意味がある 成人は自分の権利を主張できるが子供、動物、企業は主張してくれるだれかが必要だ ただロボットの場合 AIが人格として認められ人の介入なしで自分で判断出来るという事になれば違う事になる ロボット的な権利は企業と同じように主張されるであろう 人間を代理人として そうなると単純に財産と力がある人間によって全く違う意味をもつことになる
いずれにしてもSFの世界から現実の法律に動いてこられるのはいいことだと思う 理想としてはロボットよりも人間に価値をもたせてくれる法律だといいが
アシモフの3つの法はロボットを危険な物でコントロールしないといけないという視点で作られているが日本独自の10法はロボットは信頼出来て社会的,感情的に重要な役割を果たす事ができる とされている
この記事がベストというわけではないがジェニファー=ロビンソンの学術的な記事をもとに書かれた立った1つの記事だ
昔のように人をみたら泥棒か嘘つきだと思えって言うのと関係あるんじゃないかな? 欧米では日本よりもロボットに銃を持たせそうだもの
↑
アシモフが影響を受けたのはカレル=カベックがかいた初期のロボット小説のR.U.Rだと思う この話しで初めてロボットって言う言葉が作られチェコの強制労働のためだった 普通の人間の代わりに人口の人間に仕事をさせはじめるんだ ロボットはだんだんと不満を持ち人間を絶滅させる反乱をしだすんだ
ありがちな話し? これがウィル=スミスがやった 「I,Robot」だそうだよね
欧米のロボットへの恐怖感っていうのは対立と政治的な多数決を信じる考え方と日本のように社会的強調に価値があるとする考え方の違いじゃないかな
もちろん新しい政治的俳優が現状をかえる可能性は危険性はあるけど反対に日本は新しい政治的な母体を社会的調和に貢献するものととらえてるんだとおもう
↑
アシモフは基本的な工学のルールに刺激されたみたいだ 基本的に機械を作る人っていうのは使う人の命に危険がないように目的が達成出来るように普通に使って壊れないように企画するんだから
アシモフの考え方がくだらないと思うのは僕たちは安全装置がついた包丁は作れるのにそれをロボットに適応しないところ
↑
そしてアシモフはブランドン=サンダーソンに魔法の3原則が入った本を書かせる事になったんだ 次のステップは何になるかな
日本の方がずっとロボットの使い方がよさそう 怪獣を殺すものとか性的なロボットとか
↑
両方を兼ね備えている奴な 海の真ん中に投げ入れたが何もしなくてすむ
I Robotを実際によんだ人がこれしかいないってどういうこと? 短くていつも参照されているのに ロボットは完全に安全 いつか政治家として立候補するだろうよ 人は妄想するけど妄想はみつからないからね
↑
賛成 アシモフの話しではロボットの方がにんげんよりもまともだもんね
↑
この本で変な事がおこる原因になるのはいつも人間もエラーなんだ おもしろいと思った
↑
映画よりもこの本を読んだ方がいい AIと全く違ってユニークだ
↑
政治家としてロボットが立候補する
人間のフリをして人間のために人間を支配することを機械に許可するってことだよ 機械がリーダーになって人間の繁栄のために結果をだし続ける 従わない人間を傷つける事が受け入れられるってことだ 完全な妄想だけど
↑
スカイネットみたいだけど戦車のかわりにデイケアがあるかんじだね
ファウンデーションのシリーズを読んだ事ある? どんよりした終わり方をするおもしろいシリーズなんだけどこれには3原則だけじゃなく0番目の法があって 「人類を傷つけてはいけない またその行動で人類が傷つく事があってはいけない」っていうの これがほんとうに素晴らしいとおもうのだけれど でもこのシリーズは70年代に簡潔してるし 最初のI, Robotは50年代に発表されててその当時家電っていう知識がなかったよね 核燃料っていうのが彼に与えたアイデアの爆発だっただけ
↑
アシモフはSFに見せかけたミステリー小説を書くために3原則を基本にしたんだ 故意にそうしたわけじゃないと思うけど彼の自叙伝をよんだらしばしばミステリー小説にたいする彼の愛を認めているし自分の作品がSFチックなミステリーだっていってるよ
新しい技術にたいする恐怖感がいつも足を引っ張ってる ブラック=ミラーが行ったようにただ「難しい問題だ」ってポーズをしてるだけなの 限定された頭でなにか計算してるだけなのよね
↑
ぐるぐる回るのにはうんざりしてるよね そろそろ三角になって過去と未来をみつつ困難に立ち向かう時期
アシモフのロボット小説をいくつか読むのをお勧めする 最高のSFだっていうだけじゃなく3原則がこの記事と全く違う意味があるのがわかると思うよ
10原則の中で 1,2,と10が大事って気がするね
↑
6、7、8はなんか変な感じだ でも製品を追う事と記録するのは大事だものね ロボットは記録を改ざんしてはいけないって言うのがあった法外以下も
アシモフも日本のも最初の2つは同じなのね 順番がちがうかな アシモフの3番目の方をつかわず 国を出たらいけないとか作った人を父とよぶと この方がロボットに抑圧的じゃないとでもおもうのかしら
新しい規則は信頼と居場所を作る事ではなくむしろ支配と所有だとおもう ロボットにしている事は素晴らしいとおもうけどタイトルを読んだらもっと信頼出来るって感じにかいてある でもそうじゃない 彼らのルールはもっと規制していてしんらいよりもずっと支配的だ 今はロボットがどう扱われようとかまわないけどこの記事ではロボットがすごく利他的だとかいてあるんだけど実際はそんなわけない
1 お前は奴隷である
2 意地悪をするな
3 父権主義的に僕をいい気分にさせろ
4 資本主義のヒエラルキーを維持せよ
5 おまえは僕から離れられない
6 僕は移動が嫌いな保守派だ
7 隠れて商売をするな
8 俺をバカにするな
9 僕がロボットを殺したらそこで終わりだ 僕はお前の神だ
10 あと僕を傷つけないでおねがい
https://www.japantimes.co.jp/community/2019/03/06/issues/robot-rights-asimov-tezuka/#.Xsmn7zozaUk
https://www.reddit.com/r/todayilearned/comments/gpei4c/til_that_while_the_west_have_azimovs_3_laws_of/
手塚の方が良いというがこれもアシモフの原則が基盤にしている
西洋の作品がロボットの反乱を描きがちなのは根底に奴隷制の歴史があるからだろ