汉武帝刘彻为了加强集权制而削弱了丞相的权力。昭帝时,霍光以大司马大将军的职位辅政,以后享权重臣如张安世、史高、王凤等人,都居大司马大将军之位。于是大司马权越丞相之上。成帝绥和元年(前8),采纳何武的建议,将御史大未改为大司空,又把大司马、大司空的律禄提高到与丞根相等,确立起大司马、大司空和丞相鼎足而立的三公制。哀帝元寿二年(前1)改丞相名为大司徒,和今文经所说的三公名称完全一致。又将原有的太傅和新增的太师、太保置于三公之上,头衔高而无实权。西汉未虽是三公鼎立,但仍以大司马权力最大,如董贤、王莽均以此职而专擅朝政。新时,沿袭了西汉三公制。