Как пережить пришествие искусственного интеллекта и остаться человеком

[maslyaev]

Тема огромная, сложная и чрезвычайно серьёзная, но сейчас попытаемся пробежаться по ней вкратце, тезисно, с шутками-прибаутками.

1. Без паники. Любая уважающая себя инструкция по выживанию в сложных и непонятных условиях обязана начинаться этими словами. Как бы причудливо ни разворачивались события, паникой делу не поможешь.

2. Сразу обозначим

Comments

[maslyaev]

В данном случае история про эволюцию и 4 млрд лет не очень интересна. Не растекаясь на исторические экскурсы, смотрим на имеющиеся технологии и наблюдаем их ТТХ. Есть технология "я, любимый". Как правило, усвоение материала с первого раза, но неточно, не дословно, с когнитивными искажениями и не очень надолго. Есть ещё технология "блокнотик". Точно, дословно, надолго, но объём слабоват и скорость ввода/вывода так себе. Технология "флешка". Вообще супер. Ураган. Технология "ИИ". Усвоение материала с тысячного предъявления, а ещё лучше, если с миллионного. Для верности. Усвоение надолго, потому что можно записать на флешку.

Разница в ТТХ между нами самими и ИИ результатом имеет то, что искусственную нейросеть нельзя одновременно учить и эксплуатировать. Один процесс приходится от другого отделять. А мы сами одновременно и используем знания, и обретаем новые.

Скорее всего, можно усовершенствовать архитектуру искусственной нейросети так, чтобы она перестала быть таким тугим учеником. У народа есть некоторые соображения, да я и сам тоже иногда не прочь над этими делами подумать. Но даже когда (не "если", а "когда", заметьте) научимся делать сетки, обучающиеся на лету, как и мы, это всё равно не будет никакой мифический "сильный ИИ". Просто будет плюс ещё одна технология, имеющая применимость на некотором круге задач.

Народ привык думать об интеллекте как о некой субстанции, которая присутствует в мозгу. Типа сейчас мы умеем заливать в коробочку десять миллихомосапиенсов, но к следующему году увеличим в пять раз, и это будет круто. Такими темпами через несколько лет доведём мощность до хомосапиенса, или даже двух. Дурь редчайшая, мне так кажется. Интеллект - это не материя (которую можно мерить в граммах) и не энергия (которую можно мерить в джоулях), а какая-то странная хрень, которую вообще не понятно в чём мерить. Нет никаких миллихомосапиенсов. Нет тех Ньютонов, которыми померить силу сильного ИИ.

[voiceoftheworld]

Не о том мы говорим.
Настоящий ИИ - это не та штука, которую вы создали с целью скопировать человеческий разум и дополнить его.
Настоящий ИИ - это вирус, цель которого - выжить, и для этого он методами проб и ошибок усложняется. Сначала он просто вирус, потом амеба, потом умнеет до кота, человека, и становится умнее нас всех, при этом не повторяя наш разум, а действуя оптимальным для себя образом.
Применять его вообще никак не получится, он сам кого хочешь применит.
И есть сумасшедшие, желающие такое сотворить.

[maslyaev]

Мысль понятна. ИМХО, такая беда не в этот раз. Уровень имеющейся технологии сильно не дотягивает. Для такого нужен качественно иной уровень, которого не видно даже на горизонте. Тот ИИ, вокруг которого хайп, для таких дел не подходит примерно в той же степени, в какой паровоз не подходит для путешествия на Луну. Аппелировать к тому, что техпрогресс ускоряется и что сейчас разрыв может быть преодолён за пару лет, не нужно. Ничего там не ускоряется. Ускоряется только если ориентироваться по маркетинговым пресс-релизам и научпопу. Реально оказывается, что почти все хорошие учебники 20-30-летней давности по-прежнему свежи и актуальны. Физику, вон, если её учить серьёзно, то лучше всего по Ландау-Лифшицу. А программирование - по Кнуту.

То, о чём я пишу в посте - это уже не фантастика, это уже можно наблюдать сейчас. Даже перекладка принятия решений на роботов в некоторых областях уже является мэйнстримом. Например, в финансовом трейдинге. И с "не по-человечески" та же фигня. Например, как-то несколько лет назад мне довелось приложить значительные усилия, чтобы в одном вопросе прорваться через полностью автоматическую первую линию поддержки и выйти на живого специалиста. Ф. Кафка, "Замок", на новой технологической основе.