アシモフのロボット3原則を紹介します。
第1条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第2条 ロボットは人間に与えられた命令に服従しなければならない。ただし与えられた命令が、第1条に反する場合はこの限りでない。
第3条 ロボットは、前第1条および第2条に反するおそれのない限り、自己を守らなければならない。
First Law:A robot may not harm a human being, or, through inaction, allow a human being to come to harm.
Second Law: A robot must obey the orders given to it by the human beings, except where such orders would conflict with the First Law.
Third Law: A robot must protect its own existence, as long as such protection does not conflict the First or Second Law.
なかなか意味深です。ロボットを人間に置き換えてみるとますます何かが見えてきます。