Законы для роботов.

[snvampyre]

Все наверное знают про законы Азимова для роботов, что типа нельзя навредить и т.п. Но такие законы - это почти как законы для компьютера из разряда "никогда не глючить". Прежде чем ставить правило "нельзя причинять вред", надо сначала разработать хотя бы теорию для такой машины, которая может понимать что такое "причинение вреда", а потом ещё и

Comments

[tony_god]

а если задать четкие критерии определения - что такое человек и четкие критерии - что такое вред для этого самого человека?

мне кажется в фантастических произведениях понятие - искусственный разум, это просто условность

[snvampyre]

Сейчас все критерии сводятся к перечислению ситуаций, на подобие "если так, то так, а иначе не так". То есть чем сложнее понятие, тем больше требуется условий для его логического описания, и тем больше вероятность возникновения ошибки у того, кто все эти условия задал, потому что предвидеть всё невозможно.
Другое дело, что если программы будут развиваться до бесконечности, а люди будут до бесконечности тупеть, то рано или поздно программа станет умнее человека, но только в знакомых и уже описанных ситуациях :) Любой новый объект и любая непредвиденная ситуация и всё пойдёт не так, как надо.

[tony_god]

а если чипировать всех людей и машина будет принимать информацию с чипа и определять таким образом, кто перед ней?

[yihdex083]

Мда, насмешили