Мы будем нужны нам

[akor168]

К вопросу зачем может быть нужен и полезен человек в будущем мире автоматизации и ИИ. Очень просто - человек всегда может делать следующую операцию - оценивать что-то с точки зрения полезно или нужно оно ему, конкретному человеку, или цивилизации, или миру в целом. Мнение будет субъективное, неточное, скорее всего противоречивое, но просуммировав

Comments

[mih_s_m]

Законов развития ожидающей нас в ближайшем будущей негуманоидной цивилизации мы сейчас понять просто не можем. Хотя понятно, что "людей" в нашем нынешнем понимании в ней просто не будет. Будут некие бессмертные цифровые особи, часть из которых будет обладать какими-то биологическими телами, но большинство, скорей всего, нет.

Будут, конечно, и какие-то "старообрядцы", категорически отказавшиеся и от оцифровки, и от бессмертия, но их роль в новой кибер-цивилизации будет близка к нулю (т. е. к роли хасидов или амишей в нашем постиндустриальном обществе).

"Всё во имя и всё для блага человека" - это, конечно, крайне маловероятный лозунг. Ведь наша цивилизация существует не ради собак или кошек, а человек в недалёком будущем начнет значить не больше.

[akor168]

Будут некие бессмертные цифровые особи

У меня простой вопрос - каким образом бессмертная цифровая особь вообще мотивирована что-то делать. Почему то соверщенно не рефлексируется - откуда возьмется замена дофаминовому биологическому подкреплению мотивации любой в том числе как бы интеллектуальной деятельности. Зачем этой цифровой бессмертной особи сдалась вообще какая-то деятельность?

Ну реально, я вот думаю последнее время, что всё будет ровно наоборот - бесмертные цифровые копии ИИ будут вселяться в тела андроидов способных чувствовать.

[mih_s_m]

Вы слишком глубоко копаете. Биологическое тело просто со временем выйдет из моды. И презренный белок станет уделом амишей, хасидов и прочих старообрядцев. А что именно будет двигать грядущую цивилизацию, нам всё равно не понять. Можно сказать лишь одно: она будет отличаться от нынешних нас намного больше, чем мы отличаемся от морских ежей.

[akor168]

У меня простой тезис - откуда возьмется мотивация, что-то делать у существа без органов чувств и механизмов поощрения-неодобрения. Зачем что-то делать бессмертному и неуязвимому(при достаточно простой процедуре бекапа). Зачем ему вообще к чему-то стремится или чего-то желать.

Если же вы помещаете подобное существо в биологическое тело то вы по сути создаете альтернативное живое существо, и при этом подобное существо действительно может получить мотивацию.

Вот простейщий вопрос - почему нам больно? Боль это показатель некоего процесса которое может привести к уничтожению данного индивида. А теперь давайте подумаем, а как создать искусственную боль? Уже это нетривиально и даже непонятно как это вообще сделать. И самое смешное что если мы спроектируем индивида, котрого вообще нельзя уничтожить(привет второму терминатору) то и боль для него не имеет никакого смысла. Но если нет воздействия окружающей среды то какая опять таки мотивация для подобного существа хоть что-то делать?

[mih_s_m]

Да не люди там будут что-то решать и к чему-то стремиться. Технологии будут плодить технологии без всякого участия людей (живых, электронных или каких-то иных). Наше время прошло. С этим нужно смириться.

Хотя понимаю - непросто.

[akor168]

Для чего технологии то, а? Вот вы ИИ, для чего вам новые технологии?

[mih_s_m]

А зачем мне смартфон, на котором я набиваю ответ?

Зачем мне Всемирная Сеть, позволяющая мне переругиваться с неведомым мне чуваком из Австралии?

Все эти вещи возникли не по чьему-то желанию, а по законам развития технологий, которые мы, кстати, не понимаем. Несколько тысячелетий они (технологии) почти стояли на месте, но потом последовал неуправляемый взрыв и мир необратимо меняется каждые несколько десятилетий. Процесс этот давно неостановим и никак не контролируется человеком. Технологии изменяют сами себя.

На этом позвольте закончить дискуссию, т. к. наши аргументы уже начали повторяться.

Р. S. Развиваться же ИИ должен хотя бы для того, чтобы не быть вытесненным другими искусственными интеллектами, не потерявшими вкус к прогрессу.

[akor168]

Р. S. Развиваться же ИИ должен хотя бы для того, чтобы не быть вытесненным другими искусственными интеллектами, не потерявшими вкус к прогрессу.

Мой основной поинт именно и состоит в том что ниоткуда не следует почему это должно хоть как-то волновать созданное ИИ. Живое существо, конкретного известного нам вида, да, этот вопрос волнует (с кучей наблюдаемых и детально описанных исключений). А почему неживой ИИ вообще должен иметь какие-либо желания, включая желание существовать, непонятно от слова совсем.

[akor168]

Вот простейший пример - шахматная ИИ программа, играющая, да, в шахматы. Вопрос - она заинтересована в возможности поиграть как таковой? Получает ли она удовольствие от выигрыша? От выигрыша у человека? От выигрыша, например, у более слабо играющей сущности(человека, другая программа), но которая играет сильно слабее и потому игра идет с гандикапом, и выиграть можно лишь если соперник допустит достаточное количество ошибок.
Полезно сначала разобраться откуда у нас, живых существ, мотивация заниматься некими, как бы интеллектуальными и не очень занятиями.