На LessWrong'е натолкнулся на фантастический рассказ "The Gentle Romance" о возможном будущем взаимодействии человека и ИИ-помощников, и о том, как это взаимодействие может развиваться.

Выглядит относительно правдоподобно. (Автор работал в исследовательских командах DeepMind и OpenAI.)

В комментариях завязалась дискуссия на тему, является ли ( Read more... )

В современном мире у людей нередко случается "синдром самозванца": состояние, когда человек, несмотря на некоторые достигнутые успехи, начинает считать, что он сам ничего особенного не сделал / не умеет делать, и то, что другие считают его сильным специалистом - это какая-то ошибка, и когда окружающие осознают эту ошибку, ему будет совсем плохо.

( Read more... )

Я написал этот текст пару месяцев назад из-за одного «горячего для сообщества инфоповода». В процессе я задумался над тем, что я не очень понимаю, для кого именно я это пишу, но в итоге решил, что пусть будет.

Каждый раз, когда речь заходит об изучении рациональности, обязательно появляется кто-нибудь, кто задаёт вопрос: «А почему вы считаете, что ( Read more... )

Энтузиасты сняли короткометражный фильм по рассказу Скотта Александера на основе моего перевода.

https://www.youtube.com/watch?v=7yXU5g4Dnqw

Ссылка на сам рассказ: https://lesswrong.ru/572

В последние пару недель, когда внезапно стала популярна тема потенциальной опасности искусственного интеллекта, я в некоторых дискуссиях периодически сталкиваюсь с вопросом, мол, почему никто не написал простой и понятный текст, а в чём собственно проблема, из-за чего вообще шум и всё такое.

При этом нельзя сказать, что текстов на эту тему нет ( Read more... )

Складывается впечатление, что люди очень часто считают очень умными тех, кто говорит то, с чем они сами согласны. Однако не должно ли быть по-другому? Если некто умнее меня, значит, он умеет генерировать или откуда-то получать убеждения, которых нет у меня. И если он озвучивает свои убеждения, то я буду слышать те убеждения, которых у меня нет.

( Read more... )

Если вы не в курсе, что такое пострациональность (и особенно, если вы не знаете, что такое LessWrong), скорее всего, этот пост не для вас.

Главное, с моей точки зрения, для чего нужна рациональность - это умение понять «я сейчас делаю что-то не то», ну и, в идеале, понять, что именно нужно делать вместо этого.

Соответственно, главный провал этого ( Read more... )

«Мышление солдата» и «мышление разведчика»

Последние лет десять большую популярность получила тема когнитивных искажений. Думаю, многие читали какие-нибудь книги или статьи о том, как люди успешно обманывают себя, принимают систематически неверные решения и так далее. (Самая известная из таких книг - "Думай медленно... решай быстро" нобелевского ( Read more... )

Общее направление мысли уловили очень многие.

Также цитирую Джулию Галеф:

Дело в том, что успехи гомеопатической больницы в лечении холеры были совершенно реальными. Они просто не имели никакого отношения к гомеопатии. Оказалось, что лидеры гомеопатического движения случайно наткнулись на два ключевых момента в лечении холеры. Первым моментом ( Read more... )

Жить в Лондоне в 1850-х годах было жутковато. Каждые несколько лет по городу проходила холера, убивая сотни и тысячи жителей за раз. Здоровые в целом люди замечали небольшое расстройство желудка, а через несколько дней или даже часов их находили мертвыми ( Read more... )