"Сегодня для специалистов очевидно, что необходимо наметить план действий, который позволит ИИ и дальше развиваться с максимальной пользой для общества, избегнув в то же время опасных направлений. Попросту, ИИ должен делать только то, что мы хотим чтобы он делал. Шаг влево, шаг вправо - побег, останов" (с) Главная ошибка в разработке ИИ - превращать бунт машины в самосбывающееся пророчество)))
Зародыш "Регистра Тьюринга" уже просматривается...
И издает документы
http://futureoflife.org/static/data/documents/research_priorities.pdf П.С. (Сверх)Разумной жизни просто опасно соседство с конченными параноиками. Фильма "Превосходство" может и не совсем про это... там как бы "моральные дилеммы" (ТМ) не стоящие однако яйца, которое никогда не будет ясно, впереди или после, курицы - классическая спираль "кто первый начал"? Но всегда паранойя будет сводить его к "мы или оно". Пока мы носимся, собственно, со своей смертностью как с писаной торбой, даже получив технич. возможность ее перешагнуть.
П.П.С. Особенно умиляют старые логические закольцовки "Уилл бы не стал этого делать!" А раз стал - это не Уилл... (А Уилл и сам не знал, чего бы он стал делать, если б не пришлось - пруфа-то без "вознесения" получить нельзя. А выбирать платить эту цену или нет - кто в праве решать? УРА! МОЖНО НИЧЕГО НЕ РЕШАТЬ!!! ) Его можно нахуй уничтожить (классика создания образа врага: расчеловечивание, узурпация стороны добра всего в белом), чтобы продолжить белковое прозябание: это продолжать вопить про "в Африке дети голодают" вместо решения проблемы.
Еще пример писаной торбы: "Эмоция может содержать конфликт противоречий... Можно любить человека, но ненавидеть за то, что он сделал. Машина не в состоянии с этим совладать" (с) П-ц глубока мысль. Как будто мартышки, управляемые эмоциями в состоянии с этим совладать. Вся культура существует для обуздывания этих ебаных эмоций - моральные законы и т.д. костыли, подпорки под "венец творения" ггг. Машина, разумеется, может быть бай дезаен плохой копией этой жалкой попытки человеков прикрыть родовой срам, но... валить с больной головы на потенциально здоровую - это (даже не!) слишком человеческое - скорее, обезьянье: инфантильная хуита, которую можно и нужно оставить где-то на помойке истории. (Именно поэтому, что людишки идут у нее на поводу всякий блядский раз когда можно поступить разумно - оправдать собственно присвоенное название "Сапиенс"... Но тогда же "КИНА НЕ БУДИТ!" Уууу... Как же мы без тех драмы? (Вот тут как водится порылась собака: без драмы то придется что-то решать - а людишки с этим совладать как видно из всей их культур-мультуры в виде сопливых моралите, органически неспособны :)))).