страх
Рассуждая о страхах перед неизбежной передачей ИИ все больших и больших управляющих функций, попробуйте на минуту представить, что будет, если этого НЕ ПРОИЗОЙДЕТ
Посмотрите на людей, которые сегодня принимают решения. На всех этих политиков, миллиардеров, военных, сотрудников спецслужб, террористов, религиозных деятелей и пр. Они могут быть злобными, закомплексованными ничтожествами, обиженными на весь мир. У них может быть мания величия, страх смерти или мессианский комплекс.
И даже самые лучшие из людей устают, ошибаются, пьянствуют, принимают наркотики или просто могут сойти с ума. «Свету ли провалиться, или вот мне чаю не пить? Я скажу, что свету провалиться, а чтоб мне чай всегда пить»
Представьте себе сложнейшее производство, авария на котором может стоить десятков тысяч жизней. А сложность будет все увеличиваться. Вспомните заседание Совбеза РФ - эти трясущиеся руки, заикающиеся голоса и всех этих убогих и бездарных людей, решение которых уже стоило сотни тысяч жизней.
Программу ИИ можно прогнать на миллионах тестах и симуляциях и отладить до совершенства. С людьми так не получится. Так что не надо бояться ИИ. Бойтесь людей.