1935年出生於台南州新營郡塩水街岸內庄。台灣大學畢業，美國奧克拉荷馬大學大氣物理學碩士，普渡大學地球物理學博士。
1964年留學美國，因相繼成立世台會、FAPA等組織，而名列黑名單長達29年。在美積極參與各項遊說活動，促成美國國會通過「給台灣兩萬移民配額」提案、「台灣前途決議案」及「台灣前途修正案」等重大決議。曾任世台會、FAPA會長。
1992年黑名單解禁，陳唐山返台後投入政壇，歷仼三屆立法委員、二任台南縣長。2000年，首度政黨輪替，因滯美時期奠定下的外交實力，被延攬為外交部長、總統府、國安會秘書長，為黑名單入閣先驅。
2012年任第八屆立委期間，為釐清扁案的本質，在立法院創下連續六個會期為扁案總質詢的紀錄，認為扁案是國民黨對國族認同分歧者的政治整肅，終使阿扁保外就醫。
2016年任遠景基金會董事長。
