郡，他感觉到机会来了，脱下道袍，成了元宝藏的幕僚。元宝藏是他的第一任主公。
因魏征读过书，做得一手好文章，因此元宝藏很倚重他，与李密来往的信件，全是元宝藏口述，魏征代笔。在跟了元宝藏一段时间之后，魏征觉得元宝藏就是一个莽撞武夫，成不了气候，就趁着给李密送信的机会，自荐成了李密的幕僚。瓦岗李密，是他的第二个主公。
过了不久，瓦岗寨内讧，内忧外患，李密扛不住王世充的进攻，不得已投靠李渊，在李渊手下做谋士。李渊是他的第三个主公，但当时李渊麾下谋士何其多也，魏征始终没有得到重用。李密降唐又叛唐，被盛彦师斩杀于熊耳山。残部被当时还叫徐世绩的李绩收编，俩人都曾在李密麾下，魏征偷偷给李绩写了封信，趁夜色偷偷离开唐军大营，来到了李绩的帐下。李绩，是他的第四个主公。
随后，窦建德挥军南下，李绩粮草短缺，力战不敌，军队被打散。李绩率残部归唐，而魏征因从唐军大营逃走，不敢归唐，投降了窦建德。在窦建德麾下，魏征终于得到了重用，武德元年，大唐建国，窦建德也自立为王，封魏征做起居舍人。窦建德，是他的第五个主公。
窦建德尽起大军攻唐，双方交战于汜水。李世民身先