先前刘邦征讨黥布期间受伤并在之后病危，临终时吕后向其询问如果萧何去世后谁能够接替相国的位置，刘邦的回答便是曹参；萧何病重时，汉惠帝向他询问相国的接班人人选，他推举的贤臣也只有曹参。到了汉惠帝二年（公元前193年）七月，相国萧何去世，曹参听说后，赶快让门客去收拾行装，认定自己将做相国，不久后朝廷的使者便来召见曹参入朝为相国。 曹参离任齐国相国时，嘱咐后任齐国丞相要首先去考虑监狱、集市这种善恶兼容的地方，慎重对待以监狱和集市为寄托的人（即囚犯和市井闲人），不要轻易干涉他们。 担任相国期间，曹参选择各郡国中一些不善文辞而又持中忠厚的人，召来任命为丞相史，同时斥退那些十分注重言语文辞、想追求声誉的人。而对于属下犯错的情况，曹参也会尽量帮忙开脱，使得丞相府没出过什么大事。 曹参为政期间采用黄老之道治国，治理政务同萧何时期没有丝毫变更，一切按照萧何时期的法令来做，施政时适当放宽法律、不去严苛地惩罚犯人，使得百姓安定，社会经济恢复，汉朝国力增强。 曹参在做了三年相国后，于汉惠帝五年（公元前190年）八月去世，谥号为懿侯。曹参去世时，百姓皆歌颂曹参不改变萧何的律令，为政清静无为，使得百姓生活安宁。
