AI'шное
Повторю мысль, которая была в комментах уже, и которую я ещё чуть-чуть додумал.
AI не будет функциональным без какого-то аналога эмоций, или, как портал2 говорит "hardwired circuit". Потому что чем занимается компьютер, когда ничем не занимается? Правильно, C2, C3, C7, S3. Первый инстинкт (лень) уже привили. Если надо что-то ещё делать - то должно быть то, чему "надо" и что не является самим AI, а является внешним/сильновнутренним - главное, не являющимся частью AI.
То есть "какие желания у AI будут, то он делать и будет". Будет hardwired от вида оргазмирующей рыбки - и будет у вас AI, вся жизнь которого будет устремлена к оргазмирующим рыбкам.
А дальше, полагая, что "аналитическая часть AI" решена, возникает вопрос, как балансировать эти инстинкты. Очевидно, что тупые вшитые программы а-ля Азимов совершенно не будут работать IRL с вариациями окружающего мира. С другой стороны, выстраивать невротическую конструкцию из взаимоподавляющих инстинктов как у человека, тоже никто не хочет.
В первом приближении всё просто: давать AI задачу (то есть инстинкт "решить задачу") и чувство дедлайна (чтобы не решал бесконечно).
Во втором всё сложно, ибо описание "решить задачу" явно провоцирует к мухлежу вокруг минимального того, что будет засчитано за "решить задачу" и ответному усложнению самой задачи, включающему всё больше и больше условий, то есть дающему всё большее и большее поле для "неожиданных оптимизаций" (в стиле того робота, который "не проиграл" в тетрис, поставив его на паузу).
AI не будет функциональным без какого-то аналога эмоций, или, как портал2 говорит "hardwired circuit". Потому что чем занимается компьютер, когда ничем не занимается? Правильно, C2, C3, C7, S3. Первый инстинкт (лень) уже привили. Если надо что-то ещё делать - то должно быть то, чему "надо" и что не является самим AI, а является внешним/сильновнутренним - главное, не являющимся частью AI.
То есть "какие желания у AI будут, то он делать и будет". Будет hardwired от вида оргазмирующей рыбки - и будет у вас AI, вся жизнь которого будет устремлена к оргазмирующим рыбкам.
А дальше, полагая, что "аналитическая часть AI" решена, возникает вопрос, как балансировать эти инстинкты. Очевидно, что тупые вшитые программы а-ля Азимов совершенно не будут работать IRL с вариациями окружающего мира. С другой стороны, выстраивать невротическую конструкцию из взаимоподавляющих инстинктов как у человека, тоже никто не хочет.
В первом приближении всё просто: давать AI задачу (то есть инстинкт "решить задачу") и чувство дедлайна (чтобы не решал бесконечно).
Во втором всё сложно, ибо описание "решить задачу" явно провоцирует к мухлежу вокруг минимального того, что будет засчитано за "решить задачу" и ответному усложнению самой задачи, включающему всё больше и больше условий, то есть дающему всё большее и большее поле для "неожиданных оптимизаций" (в стиле того робота, который "не проиграл" в тетрис, поставив его на паузу).