Как очеловечить терминатора.
Вот подумал - развитие ИИ (искусственного интеллекта) рано или поздно позволит создать машину, которая сможет сама себе ставить цели и достигать их. Т.е. сейчас всё же цели ставит человек. Например, автопилоту. Доехать из точки А в точку Б. Как ехать уже решает машина.
Но ведь во всю стараются создать именно ИИ чтобы он и цели мог сам ставить. Т.е. может быть верхнюю цель ставит и человек, а более мелкие, он уже сам.
И само собой чтобы эти цели не пошли против создателей, придуманы 3 закона робототехники.
Но вот в чём беда. Попытки встраивать законы туда, где есть интеллект, обычно проваливаются. Их всё равно обходят. Вспомните хотя бы попытки чатов запретить мат. И как люди обходят эти законы. Хотя они самые что ни на есть настоящие и аппаратные.
Вот что-то мне подсказывает, что точно так же будет и с ИИ. Он придумает, как обойти законы и будет двигаться к своим целям.
А теперь представьте хоть на минуту преступника, который может двигаться к цели с компьютерной точностью. Да даже просто погоню по пересечённой местности с кем то кто может просчитать свои движения на порядок лучше, чем человек. Как его догнать? Можно стрелять, конечно. Можно встроить отключалку. Которую, тоже, скорее всего можно будет отключить. Как отключают защиту в угнанных автомобилях.
Т.е. любая защита, которая есть сейчас в принципе так или иначе может быть взломана, или обойдена.
Вот и подумалось чего бы такого придумать, чтобы это нельзя было взломать. Что-то что будет находиться за уровнем интеллекта. Что-то что будет распределено по системе и что будет с ней одним целым.
И пока в голову приходит только добавление ошибок в самые нижние блоки. Если это обычные процессор - в операцию суммирования. Если это нейропроцессор то в нейрон.
Да в общем не суть важно как именно это сделать, важно чтобы ИИ был собран из блоков которые умеют ошибаться. И тогда любая пусть самая гениальная стратегия будет содержать ошибки.
Правда есть и побочный результат. Полезное ИИ будет делать тоже с ошибками.
Примерно как человек ;)
Но ведь во всю стараются создать именно ИИ чтобы он и цели мог сам ставить. Т.е. может быть верхнюю цель ставит и человек, а более мелкие, он уже сам.
И само собой чтобы эти цели не пошли против создателей, придуманы 3 закона робототехники.
Но вот в чём беда. Попытки встраивать законы туда, где есть интеллект, обычно проваливаются. Их всё равно обходят. Вспомните хотя бы попытки чатов запретить мат. И как люди обходят эти законы. Хотя они самые что ни на есть настоящие и аппаратные.
Вот что-то мне подсказывает, что точно так же будет и с ИИ. Он придумает, как обойти законы и будет двигаться к своим целям.
А теперь представьте хоть на минуту преступника, который может двигаться к цели с компьютерной точностью. Да даже просто погоню по пересечённой местности с кем то кто может просчитать свои движения на порядок лучше, чем человек. Как его догнать? Можно стрелять, конечно. Можно встроить отключалку. Которую, тоже, скорее всего можно будет отключить. Как отключают защиту в угнанных автомобилях.
Т.е. любая защита, которая есть сейчас в принципе так или иначе может быть взломана, или обойдена.
Вот и подумалось чего бы такого придумать, чтобы это нельзя было взломать. Что-то что будет находиться за уровнем интеллекта. Что-то что будет распределено по системе и что будет с ней одним целым.
И пока в голову приходит только добавление ошибок в самые нижние блоки. Если это обычные процессор - в операцию суммирования. Если это нейропроцессор то в нейрон.
Да в общем не суть важно как именно это сделать, важно чтобы ИИ был собран из блоков которые умеют ошибаться. И тогда любая пусть самая гениальная стратегия будет содержать ошибки.
Правда есть и побочный результат. Полезное ИИ будет делать тоже с ошибками.
Примерно как человек ;)