曾肇治平四年(1067)中進士,初為黃巖縣主簿、鄭州教授,后調(diào)崇文閣校書、館閣??奔鎳颖O(jiān)直講、太常寺同知。到崇文院后對秦漢以來的禮儀之規(guī)增補修正,使其完善,同時刪定《九域志》,得到宋神宗嘉許,調(diào)國史館編修,進吏部郎中,改右司,為《神宗實錄》檢討。元祐初(1086),任起居舍人,不久為中書舍人。多次諫言朝廷應辯邪正,少宴樂,因意見不合,辭給事中職,以寶文閣待制知潁州(今安徽阜陽),調(diào)知鄧州(今河南鄧縣)、齊州(今濟南)、陳州(今河南淮陽)及應天府(今南京)。元祐七年,調(diào)為吏部侍郎,又因有關祭祀一事,改刑部,出知徐州、江寧府。
元祐八年(1093)十月,宋哲宗繼位,起用一些舊臣,召曾肇入朝。曾肇建議選用忠信端良之士,防止近臣參政,遭貴戚攻擊,出知瀛州(今河北河間)。紹圣四年(1097),前史官范祖禹等在修撰神宗《實錄》時有譏訕言語,被降罪。曾肇參與修撰,亦被降調(diào)滁州。后復為集賢殿修撰,出知泰州、海州(今連云港市)。
元符三年(1100)正月,宋徽宗即位。曾肇復為中書舍人,上疏建議廣開言路,昭雪元祐黨人,改任翰林學士兼侍讀,掌管起草詔令。時有諫官陳灌、給事中龔原以言獲罪,無人敢救,曾肇挺身而出,極力進行辯解。建中靖國元年(1101),因兄布在相位,避嫌拜龍圖閣學士,提舉中太一宮。出知陳州,再任太原、應天府、揚州、定州(今湖北麻城)地方長官。修《哲宗實錄》、《神宗寶訓》、《國朝會要》,提舉中太一宮。后出知陳、揚、定、岳、和州,歷太原、應天府。
崇寧元年(1102),元祐期間的士大夫再度遭貶,曾肇亦被放逐到和州(今安徽和縣)、岳州(今湖南岳陽),再貶到濮州(今山東鄄城)為團練副使,最后到汀州。四年,得以歸。
大觀元年(1107)卒于鎮(zhèn)江。
事英、神、哲、徽四朝,共40余年,踐14州,任吏、戶、刑、禮四部侍郎,兩為中書舍人。卒后30余年才被追封為曲阜縣開國侯,贈少師,紹興初謚“文昭”。明王世貞謂其書“如玉環(huán)擁(“九”加“重”),自是太平人物”。