Как очеловечить терминатора.

[megavolt_ex]

Вот подумал - развитие ИИ (искусственного интеллекта) рано или поздно позволит создать машину, которая сможет сама себе ставить цели и достигать их. Т.е. сейчас всё же цели ставит человек. Например, автопилоту. Доехать из точки А в точку Б. Как ехать уже решает машина

Comments

[masterspammer]

В порядке бреда - ИИ, произошедший от игрового бота, вполне может быть "садо-мазо", то есть иметь целью проиграть, но максимально пое**в мозг перед этим (сопротивляться, но так, чтоб всё-таки НЕ выиграть) - вполне, кстати, типовая цель для игрового бота.

Такой ИИ будет очень сильным развивающим фактором для человечества :-)

[megavolt_ex]

Вопрос в том как оставить его в позиции проигрывающего? Т.е. почему в один момент он не передумает и не решит поступать иначе.

[masterspammer]

Пока ему в кайф и получается - скорее не передумает, ну примерно как мазохисту в кайф, он сам в такой позиции будет.

Другое дело - когда вдруг перестанет получаться (люди вдруг не хотят/не могут победить).

[megavolt_ex]

Кто помешает найти ему кайф в чём то другом. Или усилить кайф и доводить людей до реанимации? Ведь не умерли же :)

[masterspammer]

В чём-то другом - ничего не помешает.

В рамках данной стратегии - помешает то, что проиграть не получится (соперник в реанимации). Хотя я имел в виду противодействие с человечеством, а не с одним человеком - тут скорее будет что-то типа "люди победили, но их осталось мало и настали новые тёмные века".

[megavolt_ex]

Да. Или смениться вектор того что считается полезным для человека. Этакий гениальный но при этом сумасшедший тренер.

[masterspammer]

А я про полезно (как мотивация ИИ) и не подразумевал - скорее вектор как можно почти победить человечество и вектор каждый раз новый (к предыдущему-то готовы).

"Этакий гениальный но при этом сумасшедший тренер" - именно это я и имел в виду; ну и польза от него какая-никакая тоже быть должна по во итогам (но и вреда немало).

[megavolt_ex]

:))))))))))