自分もあんまり詳しくないんで、深くは説明できませんが、
画質と圧縮率の兼ね合いで行くと、Indeo_ video 5 か、
IR43 がよいと思います。
Motion JPEG も結構きれいです。つーか、これしかサポートしてない
キャプチャーカードが多いような。

あと、シネパックはブロックノイズが目立つのでやめときましょう。