http://ideanomics.ru/articles/9339 Однако в этом сценарии захвата власти сверхчеловеческим искусственным интеллектом есть пять предположений, которые, если рассмотреть их тщательно, не имеют под собой каких-либо доказательствах. Эти утверждения могут реализоваться когда-нибудь в будущем, но пока ничего не подтверждает, что так будет. Вот они:
1. Искусственный интеллект уже становится умнее нас, и его уровень растет по экспоненте.
2. ИИ станет универсальным интеллектом - как наш собственный.
3. Мы можем создать человеческий разум в микрочипе.
4. Интеллект можно неограниченно расширять.
5. Как только у нас случится взрыв сверхразума, это решит большинство наших проблем.
В противовес этим устоявшимся мнениям я привожу 5 утверждений, у которых куда больше доказательств.
1. Интеллект - это не единичное понятие, поэтому концепция «умнее людей» бессмысленна.
2. У людей нет универсального разума, не будет его и у ИИ.
3. Имитация человеческого мышления в других средах будет сдерживаться издержками.
4. Размеры интеллекта не бесконечны.
5. Интеллект - это только один фактор прогресса.
Если ожидание захвата власти сверхчеловеческим ИИ строится на пяти ключевых предположениях, которые не имеют доказательств, то это скорее религиозное убеждение, миф. В следующих параграфах я раскрываю свои доказательства для каждого из пяти контрпредложений и показываю, что сверхчеловеческий ИИ - это действительно своего рода миф.
.........
(4). В основе уверенности, что интеллект будет становиться лучше, лежит утверждение, что разум бесконечен. Я не нахожу для этого никаких доказательств. Насколько известно науке, в мире нет ни одного бесконечного физического параметра. Температура не бесконечна - существует конечный холод и конечная теплота. Пространство и время имеют свой предел. Скорость конечна. Возможно, математическая числовая ось бесконечна, но все остальные физические атрибуты конечны. Само собой разумеется, что сам разум конечен, а не бесконечен.
Д.Сонькин: ИИ - это то, что может развиваться само.
Если заложен жесткий алгоритм, даже если он выполняется безукоризненно,
это не искусственный интеллект.