Ставил сегодня на домашний сервер, на котором установлен любимый мной OmniOS (диалект Solaris 11/Illumos) Squid 3.5.3.

Оказалось, что с компиляцией есть проблемы, и они достаточно стандартны для Solaris 10. Объяснение и решение проблемы нашел тут. Вот, собственно:
( проблема и решение )

Как поставить VirtualBox на OmniOS (производное Illumos).

http://grenadesandwich.com/blog/steven/2012/09/23/omnios-vagrant/

Чтобы включить старые сетевые STREAMS-драйверы:
touch /etc/vboxinst_vboxflt

В OpenIndiana такой проблемы нет.