史懿出自将门，其父史建瑭，在后唐庄宗部下任先锋都校，史懿借父功步入军伍，为昭穗军座，不久升为先锋左右厢都校。后唐明宗天成年间(926—929年)，史懿任涿州(今河北涿县)刺史。史懿在后晋初年，由赵州(今河北赵县)刺史迁为洛州(今河北永年东南）团练使，很快迁亳(今安徽亳县)，凤(今陕西凤县)二州防御史。石敬瑭称帝后，授史懿彰武军节度使观察留后，开运初(944年)，史懿先后任澶(治所在今河南清丰西)、贝(治所在今河北南宫东南)二镇节度使，开运三年(940年)移镇泾原(治所在今甘肃泾川县北)。
    后晋末年，契丹入中原，沿途各藩镇望风披靡，纷纷应召称臣，只有史懿坚壁拒命，仍与太原的刘知远结好。后汉建立后，刘知远感他患难相助，拜史懿为检校太尉、同平章事，并赐以功臣名号。
    后周初，史懿官爵更多，加检校太师，兼侍中，封晋国公。显德元年（954年)春，史懿因病从泾原归朝，途经洛阳，卒于其第，终年 65岁，赠中书令。