汾州(今山西汾阳)稽胡(山胡)刘蠡升之孙。北周武帝建德五年(576)，周军于晋州(今山西临汾)大破齐师，乘胜北进。齐人所弃甲仗，未暇收敛，稽胡乘间拾为己有。乃立其为主，号圣武皇帝，建元石平。六年(577)十一月，周平齐，乃发兵讨稽胡。周齐王宇文宪督诸军攻至马邑(今山西朔县)，分道俱进。他分遣部将天柱守河东，穆支守河西，据险拒之。旋为周军击破，被擒，余众皆降。