顧覬之字偉仁，吳郡吳縣人。高祖顧謙字公讓，是晉代平原內史陸機的姐夫。祖父顧崇，官至大司農。父親顧黃老，官至司徒左西掾。
顧覬之最開始做吳郡主簿，謝晦任荊州刺史時，讓顧覬之當他的南蠻功曹，同時兼任他的衛軍參軍。謝晦欣賞他的樸素而高雅的風度，對他倍加重視。王弘請顧覬之當揚州主簿，同時兼任他的衛軍參軍和鹽官令，再當衡陽王劉義季右軍主簿、尚書都官郎，護軍司馬。當時大將軍彭城王劉義康當權，殷景仁和劉湛的矛盾已顯露，顧覬之不想和殷景仁過多接觸，於是以腳病的借口辭官回家。在家時每天晚上常在床上走來走去，家裡其他人都非常驚異，但不知他為什麼這樣。後來劉義康被貶謫和廢去官爵，朝廷中很多人因為受牽連而遭到懲罰。而顧覬之卻再當東遷縣令和山陰縣令。山陰縣有百姓三萬戶，是海內大縣，前後到任的長官，即使日夜不停地奔波，事情仍然處理不好。顧覬之用簡單的辦法對付繁雜的問題，縣裡因此沒什麼麻煩，他白天把縣衙門門簾放下來，門外寂寞無聲。在宋朝建國以來的所有山陰政務中，這時的事務最少而政績最突出，沒有第二個人能趕上。
接著顧覬之回京城當揚州治中從事史，然後是廬陵王劉誕、廬陵王劉紹北中郎左軍司馬、揚州別駕從事史，尚書吏部郎。在宋文帝主持的座談酒會上評論江南人物，談到顧榮時，袁淑對顧覬之說：「你們南方人膽小怕事，怎麼能對付謀反的事。」顧覬之嚴肅回答：「您怎麼能因您的忠誠道義而諷刺別人。」袁淑頓時面帶慚愧之色。元兇劉邵殺文帝自立為皇帝。朝廷人物無不遷官，只有顧覬之沒有變動。孝武帝當了皇帝，顧覬之升為御史中丞。孝建元年(454)，外出當義陽王劉昶東中郎長史、寧朔將軍，且代管會稽郡事務。不久又調為右衛將軍，兼領本郡中正。第二年，出外當湘州刺史，他善於管理老百姓，政績斐然。大明元年(457)，調為度支尚書，兼任本州中正。大明二年，轉任吏部尚書，大明四年，顧覬之要辭官退休，皇帝沒有同意。
當時沛郡相縣人唐賜到鄰村人朱起的母親彭氏家裡喝酒，回來便病了，吐下蠱蟲十多條。死前對他的妻子張氏說：他死後要把他的肚子剖開弄清病的原因。之後張氏親手剖開她丈夫的肚子察看，唐賜的五臟都弄成了碎片。沛郡相縣的官員認為張氏竟做出剖開丈夫的肚子的事情，唐賜的兒子唐副又不阻攔，因為這事發生在大赦之前，法官們不能判決。當時法律規定：傷害死人，判徒刑四年；妻子傷害丈夫，判徒刑五年；兒子不孝順父母，判死刑，都不符合本案的條例。三公郎劉勰認為：「唐賜的妻子悲痛地按丈夫的話去做，他的兒子懂得遜讓也懂得大理，細細體會這事的前後，他們沒有傷害丈夫和父親的動機，我認為應該原諒。」顧覬之認為：「法律規定移動路頭的屍體，也屬不合法，況且是自己的妻子兒女，竟然忍心做一般人所不敢做的事情，對他們不應顧及小的情面，應該按照法律處理，判定唐副的罪行是不孝，張氏是犯法。」詔書同意顧覬之的判決。
接著顧覬之升任左軍將軍，出外當吳郡太守。大明八年(464)，再當吏部尚書，加官給事中，還未就任，孝武帝想讓顧覬之當會稽郡太守，沒有實行，仍是當吳郡太守。當時恩幸大臣戴法興權力幾乎蓋過了皇帝，而顧覬之並沒有屈從他。左光祿大夫蔡興宗和顧覬之關係很好，覺得顧覬之的性格太過嚴峻。顧覬之說：「三國時辛毗曾說過：孫資、劉放不過叫我做不成三公而已。」孝武帝去世時，戴法興便讓顧覬之當光祿大夫，加賞金章紫綬。
明帝太始初年，四方各鎮同時反叛。顧覬之家在尋陽，尋陽王劉子房給顧覬之授予爵位名號，顧覬之拒絕了，說：「禮規定年到六十不穿軍裝，只因精力衰退，不再能習慣軍事生活。況且我年將八十，餘年不多，在家裡等死而已，我不敢接受您的任命。」孔覬等人不能說服他。當時全國同時造反，幾乎沒有哪個人不受影響。只有顧覬之立場堅正純貞，叛逆一個也不支持。明帝非常讚賞他。東方平定後，讓他當左將軍，吳郡太守，加官散騎常侍。泰始二年(466)，再當湘州刺史，常侍照舊。泰始三年(467)去世，享年七十六歲。死後被追贈為鎮軍將軍，常侍、刺史照舊。謚號稱為簡子。
顧覬之家庭和睦平靜，深為本州本鄉所稱道。他的五個兒子顧約、顧緝、顧綽、顧鎮、顧緄。顧綽的家財非常多，鄉親父老親戚子弟很多人欠他的債，顧覬之每每勸他不要這樣作，但沒有效果。在顧覬之第二次當吳郡太守時，顧覬之騙他的兒子顧綽說：「我經常不許你放債，細細想一想，貧窮也確實不是滋味，和你有關的鄉親中還有幾多人的債沒有還清？趁我在太守任上，為你討回債務。等我退休了就討不回來了。那些債券在哪裡！」顧綽大喜，把他的所有一大櫃債券送給顧覬之，顧覬之將這些債券全部燒掉，並且告訴鄉親們：「凡是欠我家老三的債務，都不需要償還，所有的債券文約我全部燒掉了。」顧綽悔恨哀歎了一整天。
顧覬之常常覺得人生一切都是命中注定，不是個人的智慧能力可改變的。只能恭謹做人，遵循道德、信仰天命、順從運氣，但是愚蠢的人不明白這道理，胡亂地祈求幸運，只不過徒勞而已，甚至會敗壞真正的大道，對於成敗得失沒有幫助。於是把他的這些想法告訴他的弟弟的兒子顧願，叫他寫了一篇文章《定命論》，文章是這樣寫的：
「孔子說：『大道將要實行，是命中注定的，大道將要敗亂，也是命中注定的。』左丘明也說：『老天爺支持的不能被破壞，老天爺反對的不能被維持。』子夏也說：『死亡和生存都是命中注定的，富有和高貴都是由老天爺支配的。』孟子則以為他不能遇到魯國國君也是命中注定的。從這裡看來，命運的亨通或蹇澀，生命的上下波動，人生的聚合分離，都是命中注定的。司馬遷、劉向、揚雄、班固等人著書立說，都把命運當成他們最關心的問題之一。世人談到這個問題時，往往有不同看法，這裡我試著談談我的看法：
「人生承受天地的氣息，有清和濁兩種來源，人的命運承受天地的運行規律，有圓滿和不足的差異。所以有不同的心腸，有不同的相貌，因為人的運氣不同，所以有邪惡正直、昏聵賢明的差別，有幸福光榮和不幸恥辱的變化。所有這一切便是在萬古之前便已注定的，是在千年之外便已具備的，命運之神無論在哪裡都是會發生這種作用的。即使連卜筮相術之類的小技術，巫婆跳大神之類的下九流方法，也能夠預測生死存亡和成功失敗。禍害和幸福將實現的地方，賢明的人也不能不受影響；吉祥和兇惡所顯示的時候，即使是權力和防衛措施也不能阻擋。比如夏朝皇宮中長的野草，並不是靠拋棄殘忍不仁的政策便能改變的；漢代朝臣們把鹽鐵大權集中到朝廷，並不能免除百姓的飢餓死亡。雖然世上善良和邪惡說得非常清晰，但是其中的善惡報應並不總是應驗的。忠誠受賞，叛逆受罰這種公理，結果並不總是如此。有人智蓋天地，卻遭致坎坷不遇的結局，精通萬物之理，卻像孔子那樣東西奔波，不遇明君。堅守信用積累道德，卻長期地處於飢餓之中。力行仁義，卻遭致短命的結局。為什麼呢？按照世俗的大道理說，遵循道德的人應該得到好的報應，但事實並非如此，看來即使是聖人，對此仍然是沒有辦法的。況且是平庸淺薄的人、愚昧無知之輩，卻想殫精竭慮去趨利避害，細心地考察人情世態去瞭解人的亨通貧富，這只會招致更大的謬誤，帶來更大的疑惑。所以通達情理的君子，只不過讓他們的思慮保持平和，讓他們的心神保持安靜，不順從流俗獲取名譽，不阿附世人獲取盎貴。如果瞭解這些，自滿自足，至於光榮恥辱，長壽短命，是不必計較的。
「有人問道：《尚書》曾說過明白大道理會帶來幸福和吉祥。《易經》稱說保守信用能得神靈的保佑。上古的賢人認為趨利避害便不會沉淪，會騎馬的人在曠野中任意馳騁，明珠在昏暗的地方便會顯眼，堅實的蟠木總是最先被人選中。所以子罕、樂氏因為喜好施恩而長命百歲，景王和惠公因為積累道德而延長壽命，彭祖、竇仙人因為會養生而長達數百歲，盈和忌因為沉浸於酗酒之中而過早死亡，陳平、張良因為智謀而做了丞相，嚴助、辛慶忌因為多才而位至三公。至於古書中載著的作惡多端、叛逆不忠的都招致了滅亡的結果，這是很明白的。其他如神仙傳中說的，天竺國佛學書籍中所載的，有些事雖然難以驗證，有些道理還不容易說明，但是善惡報應的例子，仍然和這些是一致的。
「本人回答：你可算是照本宣科，照理駁辯。關於養生長壽，難道不是好運氣所帶來的嗎？碰到壞的運氣，實際上也是自己的兇惡帶來的。至於施恩積德、長命不死，追究它們的根本原因，哪一個不是命中注定，反覆考慮你的意思，研究前人的論述，你確實啟發了我的思維。但我並不覺得我們中間有什麼差別。人們秉受先天命運，相差很遠，叛逆忠順吉凶禍福，有它們不同的原因。細細一想，吃胡椒並不是養生的方法，吞下刀劍難道是保人性命的途徑。如果該當此人長命，便能讓他枯骨長肉而繼續活下去。但是有人每日吃著山珍海味，有時卻身患疾病。深山溝澗之中的人是不會招致皇上的榮寵的，窮谷遠山也遠離富貴榮華。如果運氣好的話，老樹能生新葉，老人能變成少年，但是終年在書案中探索，往往導致一生的湮沒無聞。至於公孫僑、柳下跖橫行霸道而長命百歲，曾子、原憲則守道而貧窮不堪。商湯、周文王在位長久，夏桀王、昌邑王則後嗣絕滅。禍福和吉凶的報應，是這樣的反覆無常。畢萬保住性命，宓賤卻丟掉腦袋，梁野說的話，不是荒謬的嗎？谷水之南魯國之北，那裡的人寧願短命而快樂生活，彭祖、竇翁，又用的什麼方法而如此長生，晉平公、趙敬侯荒婬無度而不死，漢皇、魏相為什麼修德反而不能長壽，善惡報應如此不公平，正義公理在哪裡？舜帝早年在雷濱之畔耕田而不能奮進，只好壓抑理想、安於平庸，在棘津則無意立功而功高蓋世，樊生有沖天的理想大志，只能寫下揚善的文章，華子高明廣大，卻留下了懲惡的巨大功績。這都是陸機所說的『同流游泳卻回到不同的地方。』反過來說，便叫殊途同歸，也有很多例子。在大道理上容易說，但實際上並不如此。當年東西二都繁華之時，四邊無事之際，一切的光榮都集中在貴寵之家，幸福都在權貴之門，難道他們都像張良、陳平那樣謀略蓋世嗎？從這些事看來，這些人只不過借助先人的光榮揮灑自如。有才的人卻被壓制而默默無聞。命運的差別如此的大，可見這都是先天注定的。嚴助、辛慶忌之徒急功冒進，卻遠避罪過而顯示高明，這也是命中注定的啊。至於神仙高士傳中所敘述的，更是顯明易見，齊國推重功勞而強大，燕國謹守先王之道卻弱小，也不能按此道理來說，李廣英勇善戰卻坎坷不遇，董賢美貌無能卻貴壓三公，這效驗又從何說明呢？王子喬、赤松子之徒做神仙居在天際自由飛翔，伯夷列子之徒，乘風而行，和陰陽同升同降，也是命中注定的，這也是老天爺特別地垂青他們。天竺國的佛學文章、中華本土的方策，都認為一切都是命中注定的，今生的結果都是前生種下的因子。貧窮和富有都是必然的，壽長和短命一點也不逾越規定，所有這些和我的看法是一致的。總之，一切都是命，冥冥之中都已注定，各人終歸到各人該去的地方，並不因為他行善或作惡而有絲毫改變，也不是聰明和愚蠢所能影響的。至於有所收穫是因為明白這個道理，招致損失是不明此理。遵循命運便會受賞，違背命運便會遭到懲罰。這些人都是因為被眼前的一些瑣事遮住了眼睛，這難道不會被那些通達的人所恥笑嗎？
顧願字子恭，他的父親顧淵之，官至散騎侍郎。顧願很好學，在當時即有文名，大明年間被選為秀才，在對策時很使皇帝滿意，被任命為著作佐郎和太子舍人。早死。