Парадокс Идеального Слуги

Dec 12, 2022 11:24

Кому нижеследующее покажется бредом - просто проходите мимо, не грузитесь :)
Благодаря комментаторам в теме про ИИ, подсказавшим нужные слова, мне удалось почти кратко :) сформулировать одну старую мысль. Совсем кратко она звучит так: Идеальный Слуга невозможен :)

Вы спросите "Но при чем здесь ИИ?!"
Ответ тривиален: большинство людей, вроде бы ( Read more... )

философия, ИИ

Leave a comment

Comments 110

gleb314 December 12 2022, 08:54:24 UTC

ИИ может выступать в роли Идеального Советчика.

Мне нужно сделать что-то - я спросил у ИИ как это сделать. Дальше - я либо делаю так, либо не делаю.

Reply

stanislav_v_l December 12 2022, 10:16:56 UTC
"Настоящий" - может быть (хотя это тоже вопрос дискуссионный).
То что сегодня называют этим словом - нет, категорически. Ибо "собственного опыта" он не имеет, то что он может выдать в качестве "совета" есть "усреднение" опыта тысяч людей, при этом "обратная связь" в виде многофакторной оценки "качества" совета отсутствует. В переводе на понятный - он не отвечает за базар - то есть, может болтать что угодно, и ему "ничего за это не будет" :)

Reply

gleb314 December 12 2022, 10:22:14 UTC

Почем же "ничего не будет"? Вы можете избавиться от плохой программы и купить программу получше.

Reply

stanislav_v_l December 12 2022, 10:50:25 UTC
Гы :) А КАК Вы собираетесь придти к заключению, что эта программа - плохая ? :)))

Чиста для наглядности рассуждений предположим, что речь о торговле акциями.
Если Вы эксперт в теме - программа Вам не нужна :)
Если Вы не эксперт: Вы запрашиваете совет у программы, применяете этот совет, разоряетесь - из этого делаете вывод "программа плохая" :)
То есть, программа может быть и будет совершенствоваться, но шишки набивать будете Вы :)

Reply


gleb314 December 12 2022, 08:59:36 UTC
Ну а нейросеть, натренированная на игры вроде го или шахмат - она обладает субъектностью?

С одной стороны, действительно имеет место заготовка, которая дальше очень много раз играет сама с собой (тренируется).

С другой стороны, пока вроде без "Я" и "Мои интересы" этот процессс как-то обходится.

Reply

stanislav_v_l December 12 2022, 09:48:57 UTC
А она обладает интеллектом?
Чем машина для игры в шахматы принципиально отличается от офигительной кофеварки, собирающей по всей сети рецепты варки кофе? На мой взгляд, вторая - "умней" на 2 порядка.

Reply

gleb314 December 12 2022, 10:03:46 UTC

Ну ок, разберем офигительную кофеварку. И чем же это не идеальный слуга? Она идеально варит кофе. Она не может выполнять другие функции (например лечить хозяина или быть его фитнесс-тренером), но в своей области она прекрасна.

А если придумают и идеального личного врача и идеального тренера - у хозяина будет много слуг, каждый специализируется на своем. Но всех этих слуг можно будет поместить в корпус одного устройства, и вызывать только когда они потребуются.

Резюмируя: пусть даже один идеальный слуга пока не достижим, технически уже возможно заиметь набор специализированных высококвалифицированных слуг. Которые не занимают много места, и стоят не слишком дорого.

Reply

stanislav_v_l December 12 2022, 10:39:47 UTC
И чем же это не идеальный слуга?
Исключительно тем, что умеет выполнять ОДНУ функцию. Поэтому, ей интеллект в принципе не нужен.

у хозяина будет много слуг, каждый специализируется на своем.
На хозяина ложится интеллектуальная нагрузка по выбору нужного среди сотни :)
Вот Вы сейчас не путаете телевизор с компьютерным монитором. Но если у Вас появится еще с десяток похожих приборов, каждый для своей функции - уверяю, Вы начнете путаться! :)

Но всех этих слуг можно будет поместить в корпус одного устройства
Многофункциональным прибором трудно управлять :)
Вы не задумывались почему так много людей, не умеющих пользоваться компьютером? А просто потому, что это многофункциональный прибор. Я должен выучить: а) Список того что он может, б) Список соответствия кнопка-функция.
Если Вы выучили плохо - будете у фитнес-тренера требовать сварить кофе; он будет тупо смотреть и говорить "Не понимаю!", а Вы будете злиться - "Чего ж ты такой тупой?!!" :)

И в любом случае, к теме "интеллекта" вышеизложенное не относится никак :)

Reply


vlkamov December 12 2022, 11:56:34 UTC
> Как мы выяснили ранее, интеллект невозможно "напечатать с матрицы".

Так уж и выяснили, "я так хочу" - не более того.
А уж про напечатаьт - даже смешно, скопировать сотню гигабайт уже сейчас не представляет трудности в домашних условиях.

Reply

stanislav_v_l December 12 2022, 14:01:38 UTC
Не хотел Вас обижать, Аллах свидетель :)
Но тот факт, что "сотню гигабайт" Вы считаете интеллектом - характеризует Вашу собственную оценку Вашего собственного интеллекта. Гигабайт пятьдесят-семьдесят ? ;)

Reply

vlkamov December 12 2022, 14:22:34 UTC
Вы могли бы и сами догадаться, если бы гигабайтов было достаточно.
Мозг гроссмейстера во время матчевой партии предельно нагружен - по метаболизму и томографии понятно - значительная часть его интеллекта занята шахматными вычислениями.

Сейчас обычный бытовой писюк играет на уровне чемпиона мира выделяя на эту задачу порядка 10 Гигабайт памяти. Упаковать образ памяти - еще в разы меньше.

То есть существенную часть интеллекта шахматного гроссмейстера можно упаковать в несколько гигабайт. Дополните прочими интеллектуальными задачами, которые у гроссмейстера слабо представлены - по остаточному принципу. Я накинул еще порядок на всякий случай и получил 100 Гигабайт.

Reply

stanislav_v_l December 12 2022, 14:38:08 UTC

... )

Reply


Leave a comment

Up