不拘小节的成语故事讲的是西汉末年东昏亭长虞延不注重生活小节，但敢于主持公道，将王莽的宠妾魏氏恶霸亲戚送入大牢。东汉时在富宗市长手下为官，因劝谏贪官富宗深得皇帝赏识，后为官洛阳，因其敢于执法而得罪皇帝亲戚阴氏而被迫自杀身亡。
虞延是东汉时陈留（今河南开封东南）人，长得非常威武，勇力过人，能肩扛千斤鼎奔走如飞，被人视为天神下凡。年轻时在家乡任户牖亭长。王莽称帝时宠幸魏贵人，朝中公卿及郡县官员对魏贵人的亲属及奴仆都畏之如虎。虞延听说后十分震怒，他采取突然行动将那些不法的家奴抓进监牢。
王莽末年，天下纷争。虞延身披甲胄，日夜巡逻，维护百里方圆的治安，百姓才得以安宁。虞延在伏、腊之际，法外施恩破例允许监狱里的犯人回家与家人团聚。犯人们对他感恩戴德，都能如期返回。
后来虞延辞职回到家乡。当地的太守宗富对虞延的贤名早有耳闻，请虞延出任功曹（郡中总务长，可参与郡中一切政务）。宗富生活奢侈，服装车马常常超过法定的标准，虞延认为这样下去迟早会触犯刑律，便劝谏说：“晏婴当齐国相国时，连一件像样的皮衣都没有；季文子为鲁国相国时，他的妻子从不穿丝绸衣物。从古至今，生活俭朴的人很少犯生活错误，请您留意。”但是宗富照样我行我素。不久，宗富的过分奢侈被大臣们参了一本，皇帝下令处以死刑。
有一回，当刘秀的车驾进封丘门的时候，因城门狭窄，仪仗不能通过，一时路塞。刘秀大怒，命令痛打负责此次行动的侍御史100鞭。虞延即向前跪倒请罪说：“城门狭窄是地方官的责任，侍御史没有责任，受过的应该是我。”刘秀听了觉得有理，便赦免了侍御史。虞延如此深明大义，在百官中传为美谈，他从此贤名远扬。
虞延虽然在原则问题上十分精明，但在小事上却从不大留心，所以史传上说他：“性敦朴，不注意细事（不拘小节）。”
