вольная трактовка
Пойди туда.. (с)
Для спасения человека, компьютер убил человека (с)
Если условия алгоритма слишком вольно трактуются, то в результате задание не выполняется или трактуется совершенно не так как хотели исследователи.
Нейросетки псевдоинтеллекта выполняют условия, но с таким результатом, который кажется выгодным им, а не специалистам, которые хотели получить тот или иной результат.
Самое смешное, что например в одной игре, оба "игрока" сидели на базах и не дергались, просчитав стратегию, что его не убьют, следовательно игра будет выполнена. Другой алгоритм по просту "сбежал" из локации не выполнив задание, а еще один, тащил шарик, но делал это так, что условия выполнялись совсем не так, как хотелось.
Из новейшего, программа посчитала, что женщины не пригодны для работы.
Описывать поведение нейросеток можно еще долго, но факт остается фактом, неправильно заданные условия алгоритма ведут к казусам, которые могут привести к любому результату, кроме того, который нужен задавшему.
Так, что четко и ясно формулируйте условия и цель. Это кстати, не только к роботам относится.