アシモフのロボット3原則を紹介します。

第1条　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第2条　ロボットは人間に与えられた命令に服従しなければならない。ただし与えられた命令が、第1条に反する場合はこの限りでない。
第3条　ロボットは、前第1条および第2条に反するおそれのない限り、自己を守らなければならない。

First Law:A robot may not harm a human being, or, through inaction, allow a human being to come to harm.

Second Law: A robot must obey the orders given to it by the human beings, except where such orders would conflict with the First Law.

Third Law: A robot must protect its own existence, as long as such protection does not conflict the First or Second Law.

なかなか意味深です。ロボットを人間に置き換えてみるとますます何かが見えてきます。