Бесстыжая нейронка

[kvisaz]

Есть разные термины - "искусственный интеллект", "философский зомби", "настоящий интеллект".

Для первых реалистичных эффектов оцифровки сознания нам по сути нужно

Comments

[escalibur]

Вы правы про большие системы. Но не программисты всех спасут ) Как я уже показал выше, программисты лишь кодируют алгоритмы. А сами алгоритмы изобретают другие. В частности, социальные алгоритмы изобретают философы.

Поэтому, вопрос управления сложными системами - вопрос философский. И именно философы должны выработать алгоритмы продуктивного общества, где быть приличным человеком легко, а быть скотиной - проблема. И они же должны выработать алгоритмы перехода из нынешнего инферно в то общество, которое я упомянул.

Насчёт того, кто же такие эти философы? Дак все мы. Каждый человек должен стать философом, воином и мастером. Это позволит решить эту набившую оскомину проблему "кастовости", то есть когда некая группа людей, обладающих специфическими навыками окукливается и начинает гнить внутри, в силу того, что не имеет дееспособного общественного контроля.

Я на эту тему уже написал. И на все остальные тут упомянутые ) Просто не даю ссылки на ЖЖ, чтобы не сочли за рекламу )

Дак вот, когда мы разберёмся с алгоритмиками, мы сможем их распределить между протеином и кремнием (или германием или арсенидом галлия).

И тут нам как раз пригодятся ранее отфиксированные приоритеты, согласно которым мы будем признавать алгоритмы полезными и вредными и кто ими должен заниматься. И нужно ли ими заниматься вообще на данном уровне развития общества.

То есть сначала осмысление приоритетов, формирование культуры в обществе, а уже затем технологии.

А у нас пока, увы, основной источник ТЗ для развития технологий - военные. А тут, как анекдот: что ни делай, всё равно получается автомат. Так что я бы пока всеми силами тормозил технический прогресс. Ибо из сильного ИИ получится тот же автомат, который нас угробит. И программисты тут будут не причём, хотя они тоже, безусловно, поучаствуют.

Так что сначала аксиоматика порождающего базиса общества, а уже потом всё остальное. Сами же технологии - они не добры и не злы. Они - как природа, равнодушны. Природа не подряжалась нас спасать или уничтожать. Мы - лишь один из её "проектов". И если мы сдохнем, то мироздание не рухнет. Всего лишь ещё один неудачный эволюционный эксперимент. Так что, если мы хотим выжить, как минимум, а лучше процвести, то это чисто наша проблема, которую мы должны решить.

[kvisaz]

я исхожу из другой парадигмы - "заранее все продумать невозможно, мир меняется, даже если убрать из него совсем людей, а с людьми он меняется еще быстрее. Это при условии, что нам известна модель мира, в реальности у нас эта модель очень неточная"

Поэтому в программировании популярен подход - делайте небольшие работающие кусочки. проверяйте гипотезу и ценности, при успехе развивайте дальше, при не успехе - замена на другой кусочек будет дешевым

[escalibur]

Разумеется, единственное, что есть постоянного в мире - это перемены. Тут спорить трудно.

Но есть два уровня деятельности: тактика и стратегия. А есть третий - миссия. Про тактику и стратегию учат, про миссию тоже упоминают, но как-то вскользь. Но это - самое главное. Основания всей деятельности. Ну и опять же затем уже идёт стратегия, а затем уже идёт тактика.

Если вы занимаетесь только тактикой, то, значит, стратегию за вас кто-то придумал. Если вы занимаетесь только стратегией, то, значит, вы вписались в чью-то миссию.

Миссия - это штука абсолютно иррациональная, хотя, безусловно, она ограничена объективными законами мироздания. Хотя, объективные законы мироздания тоже штука, как показала история прогресса человечества, тоже относительная. Ну да ладно, я про пример миссии. Я лично считаю, что определённую роль в мировых процессах играют люди, которые верят во второе пришествие пророка. Соответственно, это упоротые иудеи, которые ждут машиаха и ортодоксальные христиане, которые ждут понятно чего. Проблема только в том, что они не просто ждут. У них же есть эсхатология, которая является стратегией по достижению этого самого второго пришествия и они в рамках этой стратегии предпринимают вполне себе тактические шаги. И я уверен, что существование государства Израиль - это в немалой степени результат этих действий. Ибо я не могу себе представить кому в здравом уме было нужно восстанавливать давно мёртвое государство, которое не существовало почти 2000 лет.

Ну дак вот, я, не являясь записным конспирологом и являясь вполне себе рационально мыслящим человеком, тем не менее, считаю, что человечество движется вполне себе иррациональными идеями. Как показали вполне объективные исследования, 10% членов общества, если они активны, заряжены и готовы на конфликт, могут навязать свою повестку всему остальному обществу. А эти 10% создаются как раз с помощью индоктринации некими идеями, то есть той самой миссией.

Поэтому, вопрос с маленькими кусочками - это тоже самое, что подбирать кусочки с барского стола ) Нужно иметь свою миссию, свою стратегию и свою тактику. Тогда мир начнёт прогибаться, если, конечно, что-то делать в направлении своих интересов. Иначе мы всегда будем играть в чужие игры тех, кто этой миссией, стратегией и тактикой обладает.

Ну да, насчёт ИИ. Мы по сути тут весь тред обсуждаем а какими идеями будет индоктринирован сильный ИИ, если он появится и какова будет при этом его миссия, стратегия и тактика )