Экзистенциональный риск от AGI

[serj_aleks]

Культивируется как современная философская проблема. Утверждается, что начало положено Ником Бостромом и поддержано Гейтсом, Маском и Хокингом, но особенно стоит выделить Джеффри Хинтона (Вектор-Институт). Ещё по теме:

Неконтролируемая цифровая революция

Экзистенциональные риски цифровой эпохи

Что исследователи искусственного интеллекта думают о

Comments

[deep_econom]

не читал статьи Джеффри Хинтона, но думаю термин "вектор мысли" это набор весовых компонент, не более того
в некотором смысле этот набор можно называть вектором, почему бы и нет
любую нейросетку можно называть вектором например, поскольку там есть набор весовых компонент

[serj_aleks]

Помимо математического смысла, универсальности понятия вектора, это ещё в обычном языке направление. Двойной смыслк как у мета.

[deep_econom]

да, я и это тоже имел ввиду
конкретный набор параметров типа вектор и показывает направление в пространстве параметров, конкретный вектор это конкретная мысль выраженная компонентами и показывает направление в этом общем пространстве всех смыслов

[serj_aleks]

Дело за "малым", эти компоненты определить. В манифесте грубо, 3 - 5 общих, а потом уже детализировать. :)

[deep_econom]

это наверное невозможно, не знаю
может не дозрели конечно

[serj_aleks]

Ну как? Модель, упорядоченная пара и абстрактная структура уже три. Опять же невозможно проигнорировать процесс и объект. :)

[deep_econom]

ну если нечто такое, то да
наверное ))

[deep_econom]

во мысль заработала в этом направлении ))
тогда это нечто типа как ответ на вопрос, что требуется для метамоделирования?
что необходимо, чтобы метамоделировать? каковы компоненты, без которых не обойтись?
наверное да

[deep_econom]

манифест
цели (уже упоминались некоторые)
мотивировка и обоснование типа зачем нужно метамоделирование и какие задачи мы можем решать
и почему именно метамоделирование а не чтото иное
что требуется для метамоделирования?
что необходимо, чтобы метамоделировать? каковы компоненты, без которых не обойтись?

да наверное надо както так сначала вопросы поставить, типа что бы нам хотелось увидеть в манифесте
на какие именно вопросы хотелось бы дать ответы манифестом

[serj_aleks]

Ставьте вопросы, формулируйте ответы. Я могу выступить в качестве литературного редактора. Может что и вставлю тоже. Можно взять за основу структуру какого-нибудь бизнес-плана.

И ещё рекоменду Курпатова "сборник о мышлении" (ссылка на его трактат есть в первом посте о манифесте, где список примеров). Просто для инициализации процесса собственного мышления. Используйте как фон. Мне такой трюк помогает. Тем более он ближе всех из психологов (психиаторов, как он себя называет) к формальной точке зрения. Я для себя даже унес его к себе, хочу сделать конспект. Интересно что останется при редукции. Что-то точно должно остаться, понял, когда копировал

[deep_econom]

***Я могу выступить в качестве литературного редактора.

не, не )) тоже ставьте и отвечайте ) так интереснее, новые идеи могут появиться и мысли у нас у всех

***Можно взять за основу структуру какого-нибудь бизнес-плана.

а я подумывал взять может за структуру типа структуру научной статьи
у меня гдето был пост на тему структуры научной статьи

***Просто для инициализации процесса собственного мышления. Используйте как фон. Мне такой трюк помогает.

угу, мне тоже помогает

[serj_aleks]

Фридрих Энгельс "Принципы коммунизма"
https://www.e-reading.club/chapter.php/91030/2/Engel%27s_-_Principy_kommunizma.html

[deep_econom]

интересные выжимки, прямо интересные