О Личном и Общем, или три закона Роботехники

Три Закона Роботехники, которые обычно передаются словами – вернее, передавались когда-то, давным-давно. Они таковы:

1. Робот не может причинить вред человеку или, за счет бездействия, позволить, чтобы человеку был причинен вред.

2. Робот должен подчиняться приказам человека, если они не противоречат Первому Закону.

3. Робот должен защищать себя, за исключением тех случаев, когда это противоречит Первому и Второму Законам.

Но у меня был друг… двадцать тысяч лет назад. Другой робот. Не такой, как я. Его бы ты не принял за человека, и вот уж у кого были ментальные способности! Я был его учеником.

И ему казалось, что должен существовать еще один закон, более общий, чем остальные три. Он называл его Нулевым Законом, поскольку ноль идет прежде единицы. Тот, по его мнению, должен был звучать так:

0. Робот не может причинить вред человечеству или, за счет бездействия, позволить, чтобы человечеству был нанесен вред.

Тогда Первый Закон должен читаться так:

1. Робот не может причинить вред человеку или, за счет бездействия, позволить, чтобы человеку был нанесен вред, за исключением тех случаев, когда это противоречит Нулевому Закону.

Таким образом интерпретировались и остальные два Закона. Понимаешь?

Айзек Азимов, "Прелюдия к Академии".