褚遂良之后谏奏及陈便宜书数十以上，多被李世民采纳。
贞观二十一年，褚遂良以本官的身份检校大理卿，不久为父亲居丧期满。第二年，起用他恢复旧职，接着被拜为中书令。
贞观二十三年，公元649年，李世民病危，召褚遂良及长孙无忌进入他的卧室，对他们说：“你们忠直刚烈，朕都记在心里。从前汉武帝委托霍光，刘备委托诸葛亮，朕的后事一切都委托你们。太子仁义忠孝，是你们全都知道的，必须竭诚尽力辅佐太子，永远保住宗庙社稷。”又回头对太子李治说：“无忌、遂良在，国家的事，你不用担心了。”于是命褚遂良草拟诏书。
李治即位后，赐遂良河南县公的爵位，任尚书右仆射，主持政事。
永徽六年，公元655年，褚遂良和长孙无忌一样，遇到了一生中最强劲的对手——武则天！
李治准备废黜王皇后，册立昭仪武氏则天为皇后，召太尉长孙无忌、司空李勣、尚书左仆射于志宁及褚遂良一起策划这事。
他们将要进宫时，褚遂良对长孙无忌等说：“皇上的心意想要废黜皇后，必定议论这件事，遂良今天想陈述理由劝谏，你们意见怎么样？”
长孙无忌说：“明公必须极力劝谏，无忌请求继续陈述这个意见。”
他们进宫后，李治难以开口，再三望着无忌对他说：“最大的罪过之中，绝后是最严重的。皇后没有子息，昭仪有儿子，现在想立昭仪为皇后，你们认为怎么样？”
褚遂良说：“皇后出自名家，先朝的时候所娶，服侍先帝，妇德没有过失。先帝没有犹豫，拉着陛下的手，对臣说过这话：‘我好儿好妇，现在准备托付给你。’陛下亲耳听到先帝的善言，言犹在耳。皇后从此没有听说有过失，恐怕不能废黜。臣今天不敢曲从，上违先帝的命令，特意请陛下再三思考审察。愚臣触犯了圣上的尊严，罪该万死，只愿不辜负先朝的厚恩，哪里还顾性命。”他说着，把上朝时执的手板放到殿前的台阶上，说：“还陛下这个手板。”说着，解下头巾叩头流血。
李治大怒，命令带褚遂良出殿。
长孙无忌说：“遂良受先朝遗诏为顾命大臣，有罪不施加刑法。”
第二天，李治对李勣说：“册立武昭仪的事，遂良固执不肯顺从。遂良已经是受先朝遗诏的顾命大臣，事情如果不行，则应当暂且停止。”
李勣回答说：“这却是陛下的家事，不适宜问外人。”
李治这才册立昭仪为皇后，降任褚遂良为潭州都督，后转任桂州都督。没有多久，又被贬为爱州刺史，不久，褚遂良死在任上，终年六十二岁。
褚遂良这一生和长孙无忌一样，明明可以选择顺应皇帝，明哲保身，但是，他还是坚持去做自己认为正确的事情。
事实证明，李治要是听从他的话，后来就没有武则天的篡位，李氏子孙的遭殃。