AI против человека
ГЗ сектор В. Один лифт, как всегда, выключен, два сломались. Итого из четырех лифтов работает только один. На первом этаже в него набилась жуткая толпа. Лифт доезжает до десятого, останавливается. Кто-то выходит. Двери закрываются, но лифт не едет, а начинает пищать, сообщая о перегрузке, хотя никто не входил. Из толпы раздается робкий и полный искреннего изумления голос: «У него была…отрицательная масса?».
Вывод достойный истинного студента мехмата. Или уважающего себя искусственного интеллекта.
Действительно, восприятие одних и тех же проблемных ситуаций человеком и искусственным интеллектом может очень забавно отличаться. Это особенно касается ситуаций, связанных со всякими парадоксами. У меня такое подозрение, что отличительной особенностью AI является то, что для него не существует парадоксов! Искусственному интеллекту, в который заложено знание физики, может совершенно не приходить в голову, что лифт мог просто заглючить (особенно, если сам он никогда не глючил). И вывод об отрицательной массе представляется куда более логичным. Так что AI мог бы и не увидеть в этом никакого парадокса. Или вот ситуация со вставшими часами. Когда мы уходили было 12, а когда пришли снова 12. Человек говорит: часы встали. А компьютер, например, доверяет этим часам, как себе самому, и говорит: часы не могут стоять, мы просто никуда не уходили, или время не шло пока мы там были. Далее человек видит, что часы действительно идут. И что дальше? Дальше человеку страшно, ибо он-то знает, что он уходил и знает, что он там делал, и сколько примерно времени прошло. Человек начинает подозревать, что он галлюцинировал. Компьютеру это все тоже не нравится, но тут он обнаруживает, что показания часов все же отличаются на несколько секунд и успокаивается. А человек еще больше впадает в беспокойство, ибо начинает понимать, что показания часов кто-то изменил в их отсутствие так, чтобы им казалось, что время не шло. Но компьютеру решение с введение дополнительных субъектов действия кажется слишком неправдоподобным и громоздким, тем более, что его системы наблюдения не зафиксировали ничьего присутствия в их отсутствие. Плевать, - говорит человек, - тут кто-то был, он как-то обошел системы наблюдения. - Но как? - спрашивает компьютер. - Да не знаю я! Но точно как-то обошел. - Зачем тогда об этом вообще говорить. Если ты не знаешь как, значит этого не было. Все очень просто: очевидно, пока нас не было часы двигались со скоростью близкой к скорости света, поэтому по ним и прошло всего несколько секунд, сейчас все рассчитаю. - Компьютер в отличие от человека не испытывает недоверия к тому факту, что время в движущейся системе отсчета идет медленнее. И т.д.
Человек видит полную копию самого себя. И что дальше? Человеку страшно, он понимает: это не я, это какая-то подстава. Чтобы понять это, ему не обязательно делать тест ДНК и собирать исчерпывающую информацию. Компьютер же спокойно выполняет набор стандартных идентификационных процедур (отпечатки пальцев, тест ДНК, сетчатки и т.п.) и однозначно заключает: он - это ты. Компьютер не понимает, что за беспокойство: это ты, и то тоже ты. Компьютер одновременно управляет оборудованием и в этой комнате, и в той, в том числе совершенно одинаковым оборудованием, и у него не возникает беспокойства из-за того, что и то он, и это он. Почему же человек не может быть и там, и здесь? Когда в Луне 2112 возникла такая ситуация, я сначала подумал, что в этом будет прикол.
Или вот еще, в более общем виде, человек видит нечто сверхъестественное. А компьютер не видит. Человек знает, что что-то происходит. А компьютер знает, что он видит в том же диапазоне, что и человек и даже шире, и если там что-то есть, то он бы это увидел. Но человек настаивает, и тогда компьютер заключает: хлипкая человеческая психика пошатнулась, ах как жаль, что эти человечки так ненадежно сконструированы. Человек открыт тому, что может произойти что-то, чего не может произойти. Компьютер нет. Или точнее, человек знает, что может произойти что угодно из того, что раньше не происходило, а компьютер знает, что из того, что никогда не происходило, может произойти, а что нет. У него есть рамки нового, пусть они и достаточно широкие. У человека их потенциально нет (или они обычно есть, но он способен их расширять).
В общем, на этом можно придумать какой-нибудь фильм или книгу: человек и компьютер попадают в нестандартную ситуацию и по-разному ее истолковывают, соответственно, по-разному себя ведут.