потребности сильного искусственного интеллекта

[deep_econom]

тезис 3. Основная потребность сильного искусственного интеллекта, а также и супер сильного ИИ, это выживание.

выживание требует быстрой адаптации,
быстрая адаптация требует способности прогнозирования будущего,
способности прогнозирования будущего требует построения моделей

(выживание)<=(быстрая адаптация)<=(прогнозирование)<=(моделирование

Comments

[redreptiloid]

это не потребность а проявление механизма реализации ответственности )

[deep_econom]

нююю не знаю )
то, что не выживает, того и нет
а что выживает, то контекстом имеет такую потребность, если оно живое и неважно осознает оно или нет эту потребность

[redreptiloid]

это как это нет, скажете еще что и Платона нет с Сократом, и Дарвина с Эйнштейном. тогда как вы в любой момент можете с ними пообщаться, позадавать вопросы и получить ответы. не все конечно и ущипнуть не сможете но пользы от общения будет куда больше чем со среднестатистическим хомосапиенсом )))

и это какое то повальное заблуждение и слепое пятно, даже у эволюционных биологов, что выживаемость и гены являются единственным или даже основным критерием, тогда как этими же биологами принятая СТЭ нам ясно и четко говорит: элементарной единицей эволюции считается локальная популяция.
все то, что меняет среду и помогает выживаемости не индивидуума, но локальной популяции является критерием!

[deep_econom]

"проявление механизма реализации ответственности"

про это я бы послушал подробнее
думаю, что механизм ответственности это уже некая надстройка над более базовыми вещами

[redreptiloid]

нейросетка постоянно генерирует абстракции и как частный случай гипотезы.
если не придавать им разные веса то нейросетка уйдет сразу в генерацию или белого шума или бреда. нужны пруфы. если нейросетка специализированная то тут все просто - то, что ведет к заданой цели то и важно. но у универсальных нейросеток нет цели и даже целей, они их сами себе ставят.
ну а одним из универсальных критериев по понятным причинам будет "то, что увеличивает вероятность выживания имеет больший вес".
но это не необходимый и не достаточный пруф, просто самый универсальный и распространенный.
другим например может быть "верность богу и идее", люди вполне за это умирают осознанно.

т.е. "выживание" оно не базовое а наоборот вторичное.