JPEG может храниться двумя способами - линейно и прогрессивно. Прогрессивно сжатые картинки хороши тем, что понятны ещё до того, как целиком загрузились.
Этот подход можно применить и к видео. Для этого надо разбить видео на три дополняющих друг друга дорожки: с низким, средним и высоким качеством изображения. Сначала в плеер полностью загружается низкокачественное видео (чтобы можно было перематывать), потом - начало средней дорожки, а потом - высококачественной.
Таким образом, в зависимости от скорости подключения пользователь будет смотреть видео соответствующего качества.
UPD: Что-то подобное пытается сделать
Рутуб