Березин (berezin) wrote,
Березин
berezin

История про законы

Сегодня с утра меня посетила очень странная мысль.
У всех на слуху три знаменитых закона робототехники. Айзек Азимов придумывал три свои закона робототехники давно, и их относят к 1942 году - времени, когда вычислительные машины занимали целые здания и верхом интеллекта считался ПУАЗО - прибор для управления зенитным огнём, больше похожий на арифмометр.
Итак, Законы, если кто не помнит, следующие:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Но потом, много лет спустя - в 1986 году, Азимов сформулировал дополнительный закон (его ещё нумеруют числом "0"): "Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества" - так вот, это совершенно восхитительно.
Азимов, который сам говорил, что этический кодекс роботов есть, собственно, кодекс "нормального человека" изящно дополнил его ещё одним совершенно человеческим правилом. Согласно именно этому правилу развязывалось большинство войн, начинались революции, земля орошалась кровью, и происходили прочие безумства.
Азимов, крепившийся сорок лет, тем самым уподобляется работнице тульского самоварного завода, которая удивлялась. что из украденныых на службе деталей всё время, как не старайся, получается то автомат, то пулемёт.
В общем, все роботы равны, но одни из них равнее.

Извините, если кого обидел
Subscribe

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 44 comments