Законы и законы (1)
Исаак Азимов, конечно, гениальный писатель и даже где-то в чём-то футуролог. И его идея с Тремя законами робототехники - отличная и достойная скрижалей каменных. Только предложенный писателем механизм их реализации - чистая фантастика, причём, ненаучная.
В качестве гарантии исполнения этих законов выступает два факта. Во-первых, роботов производит одна-единственная компания во всём мире. И даже в Галлактике. Никто другой никаких аналогов сделать не в состоянии. Уже смешно. Во-вторых, соблюдение зафиксированных в законах алгоритмов обеспечено аппаратно. Не на программном уровне, а на кремниевом. Если любая программа в мозгу робота идёт вразрез с велениями Трёх законов, робомозг пускает дым, искрит и ломается.
Любой закон - это алгоритм. А за алгоритмы отвечает программный уровень. Аппаратный же в состоянии реализовать лишь наипростейшие из алгоритмов, но никак не может контролировать алгоритмы, исполняемые этажом выше.
Например, мы хотим, чтобы камера смартфона могла снимать любые объекты кроме денежных купюр. Можно ли сделать это программно, при помощи драйверов, прошивки, ОС, приложений? Да. Любой айтишник даже сходу предложит пути реализации. Можно ли осуществить то же самое аппаратно, не касаясь программной части? Нет. Разве что, убрав камеру вообще.
Делаем промежуточный вывод. Законы о непричинении компьютером вреда человеку (что азимовские, что единороссовские) можно реализовать только программно, при условии подконтрольности (согласности) всех софтопроизводителей. И настройщиков конфигураций. Каковых на свете довольно много.
(продолжение завтра)