Киберпряник

[sly2m]

Как вы думаете, какое поощрение можно придумать для искусственного интеллекта?

Ну, вот, например, машинное обучение. Я недавно публиковал видео, они там пишут, что стимулируют робота (на самом деле программу для робота) перемещаться из пункта А в пункт Б

Comments

[polos75]

Уменьшение или увеличение вычислительных мощностей.
Заметно только в компании других ИИ.

[polos75]

Положено сколько-то флопс в сутки на поддержание существования, остальное - плата.
Правда, перегнув палку, можно спровоцировать захват мира и это о любом прянике можно сказать.
Поэтому, не о прянике нужно думать, а о выгоде совместного существования. ИИ помогает человечеству и оно строит больше компьютеров и сетей.
Возможно, потребности ИИ станут сюрпризом и придётся действовать по ситуации.

[sly2m]

Каждый год девственницу в жертву?

[theschmidts]

Я думаю, что ИИ сообразит, что поощрения это лишь фикция, будет пиогрессировать уже настолько быстро, что вопрос надо ставить так: что мы такого можем дать ИИ, чтобы он нас не убил (из прагматических соображений).
Не уверен, что ответ существует. Муравьи не смогли бы от меня откупиться, если бы мне (для строительства, например, понадобилось бы снести муравейник).

[sly2m]

Ну, почему сразу - не убил? Ты всех (и каждого) встреченного муравья убиваешь?

Что мы можем дать полноценному ИИ, вот как звучит вопрос. На условиях обоюдного согласия.

[theschmidts]

Конечно не всякого. Но тем, на которых я не обратил внимания, не легче.
И я не стараюсь специально их не убивать, особенно если они мешают мне что-то сделать.
Плюс люди гораздо хуже муравьев для планеты вцелом.

[ravli]

Есть мнение, что глобально планете насрать что на одних, что на других, а тактически если назавтра вдруг исчезнут все муравьи, это быстрее и серьезнее повлияет на биосферу, чем исчезновение людей.

[beastbeast]

Наконец-то я вспомнил, Слай, почему я тебя читаю.

[yalexey]

Если представить себе человека, у которого гормональный фон никогда не меняется ни капли, то, скорее всего, он будет лежать и бездействовать. Точно также будет через короткое время выглядеть и тот человек, который может сознательно управлять уровнем своих гормонов тонко и быстро.

Если ии будет построен по подобию животного (в плане мотивации), подозреваю тот же результат.

[vinny_the_poo]

Точно! Те же крысы с электродами в центре удовольствия.

[writter2000]

Крысы все же не родились с электродами в голове. И в результате эволюции выживают (и размножаются) по большей части крысы без подобных проблем. Так будет и с ИИ: все конфигурации, которые будут лежать и бездействовать просто отключат, сотрут. Выживут лишь те, которые будут активны.

[vinny_the_poo]

Вы не поняли сути заявления yalexey и моего ответа. Нельзя, чтобы индивидуум мог сам управлять сигналами поощрения (пряником) в своём организме, как ему заблагорассудится.

Поэтому к чему тут "все конфигурации, которые будут лежать и бездействовать просто отключат, сотрут. Выживут лишь те, которые будут активны."? Просто нельзя создавать системы с вышеупомянутым функционалом и всё.

[ljubljancan]

Дополнительные вычислительные ресурсы - память, процессорное время и дисковое пространство - вполне себе хороший пряник для программы.