Знаменитые три закона робототехники Азимова были обеспечены аппаратно. Самой конструкцией позитронного мозга. Изменить их программно было невозможно. В случае их принудительного нарушения мозг выходил из строя. А производитель позитронных мозгов был в мире единственный. Без этих придуманных писателем логических подпорок не срасталось. Все перечисленные условия далеки от текущей действительности, так что принудить кого бы то ни было к соблюдению законов робототехники невозможно.

Вместо азимовских законов в законодательстве чётко прослеживается альтернативный, но направленный в ту же сторону принцип: роботы могут выполнять любые действия, но принимать решения должен человек. Хотя бы принципиальные решения. Хотя бы решения, касающиеся других людей. Например, в хорошо изученном (оттого и привожу в качестве примера) нашими читателями законе "О персональных данных" этот принцип выражен так (ст.16):

«Запрещается принятие на основании исключительно автоматизированной обработки персональных данных решений, порождающих юридические последствия...»

Ну а реальность такова: компьютерам (т.е. программам) передаётся право на принятие решения всё чаще, всё в большем количестве областей. Делается это как бы вынужденно. Тот, кто будет слишком рьяно придерживаться антропократических принципов, рискует проиграть. Как в рыночной конкуренции, так и на поле боя.

При стрельбе по низколетящим целям, которые находятся в зоне поражения всего 1-2 секунды, решение на открытие огня принимается программой ещё с 1980-х. Кто не доверится компьютеру – покойник.

Решения на покупку-продажу на фондовых рынках на огромные суммы принимаются программами. Кто надеется на быстроту собственного ума и пальцев – банкрот.

Летать и ездить на ручном управлении человек ещё может себе позволить. Но лишь потому, что скорость доставки – не самое главное конкурентное преимущество.

При создании программ сроки работ имеют существенное значение. Так что здесь автоматизация надвигается столь же необратимо. А дыры в программе, созданной полуавтоматически, лучше искать вручную. И наоборот.

Tags: защита информации, футурология