Экзистенциональный риск от AGI

[serj_aleks]

Культивируется как современная философская проблема. Утверждается, что начало положено Ником Бостромом и поддержано Гейтсом, Маском и Хокингом, но особенно стоит выделить Джеффри Хинтона (Вектор-Институт). Ещё по теме:

Неконтролируемая цифровая революция

Экзистенциональные риски цифровой эпохи

Что исследователи искусственного интеллекта думают о

Comments

[deep_econom]

прицеплю свое )

Теорема: сильный искусственный интеллект не может быть дружественным.
https://deep-econom.livejournal.com/122020.html

[deep_econom]

не читал статьи Джеффри Хинтона, но думаю термин "вектор мысли" это набор весовых компонент, не более того
в некотором смысле этот набор можно называть вектором, почему бы и нет
любую нейросетку можно называть вектором например, поскольку там есть набор весовых компонент

[serj_aleks]

Помимо математического смысла, универсальности понятия вектора, это ещё в обычном языке направление. Двойной смыслк как у мета.

[deep_econom]

да, я и это тоже имел ввиду
конкретный набор параметров типа вектор и показывает направление в пространстве параметров, конкретный вектор это конкретная мысль выраженная компонентами и показывает направление в этом общем пространстве всех смыслов

[serj_aleks]

Дело за "малым", эти компоненты определить. В манифесте грубо, 3 - 5 общих, а потом уже детализировать. :)

[deep_econom]

хехе перешел по ссылке https://vectorinstitute.ai/ и там значок высветился стилиpованной буквы V со стрелкой типа вектор институт ))

у нас тогда MП-институт ))
М модель, а стилизованная модель это типа буква П
а буржуи не разработали принципы сильного ИИ поскольку у них нет буквы П в их языке ))
им сложно догадаться что модель это П ))

сарказм и юмор над собой ))

[serj_aleks]

Буква П - метавектор. :)

[serj_aleks]

Не в тему, чтобы не забыть пристроить позже.
Преобразование Фурье - самый подробный разбор
https://proglib.io/p/fourier-transform

[serj_aleks]

вектор институт и МП-институт
https://deep-econom.livejournal.com/413345.html

П.С. Манифест - это шаг к институализации процесса. Проект может не материализоваться в какие-то основные фонды, но вполне может развиваться в "виртуальной форме", цифрового онанизма. :)

Шаги институализации:

1. Настоящее сообщество
2. Манифест
3. Словарь (как концептуальный вектор)