А вот интересно, есть ли фазовый переход при увеличении времени раздумий?
Эйнштейн говорил, что всё, что он делал, это
оставался с интересными задачами дольше других.
Портия планирует нападение на добычу большего, чем она веса и размера и, наверное, ума, с помощью мозга в десять раз меньшего, чем у таракана. Она очень долго думает, однако.
В случае нейросетей придумали повторный прогон вычислений - специальный выход сообщал, что рекуррентная сеть считает своё решение достаточно верным, и если это было не так, то вычисления повторялись с новым состоянием и тем же входом. При проверке результатов выяснилось, что если просто прогонять те же самые вычисления несколько (заранее заданное число) раз и не обращать внимание на выход с уверенностью, то результаты получаются не хуже, а то и лучше (ссылки на оба исследования отыскать не могу). В этом случае мы увеличиваем среднее время "размышлений," в обычной RNN это 1 цикл, в условно-растянутой RNN это 1..наибольшее количество циклов и в растянутой RNN это заранее заданное количество циклов.
Всё указывает на то, что о важном надо думать постоянно. ;)
Здесь интересно вот, что. В применении современного ИИ на вычисления отводится заранее заданное количество времени. И это одно из отличий применения ИИ от "применения человека."
Насколько оно важно, пусть выясняют другие. А я спать пойду. А то я и так слишком долго читаю про всякие "generalist AI." ;)