Как в columnstore работает запрос типа SELECT. Вычисляются столбцы, которые надо выбрать, и выбираются. Строится цепочка - выбрать вот этот столбец, пересечь вот с этим, такие-то номера строк подать на выход для чтения результата ( Read more... )

...для хранения вложений циклов при выполнении запросов. Круто!

Подробности воспоследуют.

https://en.wikipedia.org/wiki/Superoptimization

Автор названия и первой реализации мощна ( Read more... )

Самый первый алгоритм проверки разрешимости логической формулы использовал "разрешение" ограничений (resolution): для ограничений вида (a∨b∨c) и (-a∨b∨d) мы можем вывести ограничение (b∨c∨d), устранив переменную a. Так вот, алгоритм Davis-Putnam выбирал переменную для устранения и устранял все ограничения, выводя новые и проверяя их на тавтологию ( ( Read more... )

пЕСР расшифровывается, как "приблизительная Естественная Стратегия Развития". По английски это aNES - approximate Natural Evolution Strategy.

ЕСР это "давайте наберём случайных отсчётов и вычислим по ним изменение параметров распределения вероятности, используя естественный градиент". Последний определён, как градиент, умноженный на матрицу, ( Read more... )

Итак, при оптимизации сложных функций наподобие современных сетей есть проблема исчезающе малого изменения (vanishing gradient problem). Современные методы градиентного спуска справляются с ней путём изменения весов при коэффициентах - после вычисления вектора градиента он поэлементно домножается на вектор весов, который в разных вариантах ( Read more... )

К моему предыдущему посту.

Как известно, чем дальше матричное умножение от выходов сети, тем меньше изменений они претерпевают на каждом шаге обучения. Это известная проблема пропадающего градиентаВ моей исходной формулировке веса были представлены частицами с одинаковой массой (равной единице). Поэтому сеть училась, но долго. А когда я добавил ( Read more... )

https://en.wikipedia.org/wiki/Natural_evolution_strategy - чрезвычайно интересная идея.

На соображение о NP-сложности (не полноте, а сложности, hardness) решения проблемы оптимального распределения инструкций VLIW в базовом блоке, я получил возражение, что можно пользоваться приблизительными методами ( Read more... )

Доклад о потреблении памяти в типичных структурах Java.

Страница 28 содержит кадр с TreeMapРасходы на такое дерево: double занимает 24 байта из которых только 8 данных, на корень TreeMap приходится 48 байтов, на запись - 40 байт. В пределе это даёт 82% накладных расходов ( Read more... )