(Untitled)

Oct 17, 2023 14:38

It's so funny when people say that we could just trade with a superintelligent/super-numerous AI ( Read more... )

ai, english

Leave a comment

Comments 9

arpad October 17 2023, 12:27:22 UTC
Because 82% in well developed society want nice warm stable reality. Instead of mad rush to survival. They do not want to believe that half of the world people will kill them just for fun like HAMAS did in Israel now. And the only thing that stops them - they are aware of the consequences. They do not want to see Russian aggression for what it is - unprovoked attack of faschist state sup[ported by majority of its population. And of course they don't want to think that unless we master AI - we will have to deal with AI mastered by China.

Reply


grain_de_folie October 17 2023, 18:05:05 UTC

AI doomer: 10-90% chance, will update priors based on new information.

Effective Accelerationist: 0% chance, nothing will change my mind.

Which one is the religious cult filled with true believers again?

Конкретно на основании этого твита - думеры, потому что превращение оппонента в наивного упертого идиота на фоне рационального и апдейтящего-прайоры себя такая себе стратегия в вопросе ключевой значимости.

Reply

rotten_brido October 18 2023, 11:06:51 UTC
Ну да, эту часть можно было не включать, тут перегнули. Хотя по-моему позиция «да не, не ёбнет», на фоне всех остальных приведённых аргументов как-то так и выглядит, как во второй строчке.

Кроме того, во второй строчке говорится не про всех кто «не AI Doomer», а конкретно про Effective Accelerationism, гугл ит.

Reply

grain_de_folie October 18 2023, 19:41:47 UTC
Ну а с другой стороны то, что пишет комментатор выше. АГИ будет, и созданный Китаем. Ему даже элайниться не придется гггг

Reply

rotten_brido October 25 2023, 10:20:25 UTC
Ассоциация из ASOIAF: Вот есть Стена, за ней The Others, экзистенциальная опасность для человечества. Люди воюют с друг с другом, а некоторые думают «вот мы приоткроем стену для Иных, вступим с ними в союз, так и победим. Иначе это сделают соперники».

И вот я хз как к этому относиться. Надеяться что у всех хватит ума этого не делать, конечно, наивно, соглашусь. Но и стремление впускать Иных кажется безумием.

И надеюсь, ты не думаешь что я тут исключительно паникую. Я бы хотел послушать аргументы и в ту и в другую сторону. Пока что аргументы AI-думеров мне понятны и контраргументы к некоторым из них сложно даже представить. А со стороны AI-оптимистов мне ничего внятного пока не попадалось.

Reply


Leave a comment

Up