明英宗正统十二年（1447年）六月初九李东阳出生于北京西涯村，父亲李淳是个饱学之士，以教私塾为生， 因家贫，甚至还当过摆渡的船工。幼年就显现出非凡的才华。李东阳4岁时随父亲在北京时就会写直径一尺的大字，被京城中人视为神童。顺天府官员把李东阳推荐给景帝，李东阳当着景帝写下“龙、凤、龟、麟”等大字，景帝非常高兴，赐给李东阳珍奇水果和金银元宝。之后，并两次召见准予李东阳进顺天府学读书。
明英宗天顺八年（1464年），李东阳十八岁即中进士（跨级直接考），殿试二甲第一，选庶吉士，不久授编修，参与修撰《英宗实录》。宪宗成化三年（1467年）书成，升从六品俸。后迁侍讲，旋入经筵侍班。十六年，为应天乡试考官。二十年，再迁侍讲学士，辅太子诵习。二十二年丁父忧。孝宗弘治二年（1489年），补原官加左庶子，预修《宪宗实录》。书成，升太常寺少卿。
弘治五年大旱，孝宗敕群臣言天灾事，东阳条摘有关《孟子》，以天灾与时政阙失相联，天降灾福与人事有关，望皇帝勤习经文，以诚意动天意。而其他“凡事关祈祷，悉加屏绝。”疏上，孝宗称赏。迁礼部右侍郎，入内阁专典诰敕事。八年，以本官入文渊阁参预机务。十一年，加太子少保礼部尚书兼文渊阁大学士。十六年，纂修《大明会典》成，进太子太保、户部尚书、谨身殿大学士。时内阁大学士刘健、谢迁颇有刚直之名，刘健善断，谢善持论，而东阳性温而多智谋。一时有“李公谋、刘公断、谢公尤侃侃侃”之赞。孝宗对三大臣意见颇多采纳，并常召入宫中议事，“呼先生而不名。”十七年，重修阙里孔庙工竣，东阳奉诏往祭。及归，上《通达下情题本》，直陈时局艰难，不报。
武宗即位，大肆扩充皇庄，别构宫苑，假借巡视搜括民财，劫掠妇女。天下怨声载道，人民苦痛。又宠用宦官，任意缉拿民众，诬辱朝臣 。正德元年（1506年），东阳等上疏极陈“嬉游废政”之弊；又上疏论“时政四弊”，皆不报，乞休；武宗不允，而朝政无所改。十月，朝官纷请诛宦官刘瑾等，武宗与内阁议时，刘健、谢迁持论激烈，至于推案哭骂，遂为武宗所恶。刘、谢上疏乞休，惟东阳仍留内阁。刘、谢即免，内阁引进王鏊、焦芳，迭加东阳少师、太子太师、吏部尚书、华盖殿大学士。二年，《历代通鉴纂要》成，以书中一、二页装潢颠倒错乱，字体亦微小差讹，刘瑾、焦芳等人构东阳罪，武宗有旨不问，得免祸。
五年秋，刘瑾被诛，东阳荐刘忠、梁储入阁。而武宗嬉乐如旧，宦官张永、谷大用等仍受重用。内阁奏议徒为虚文，政治腐败日甚一日。东阳于正德七年辞官。深居简出，以诗酒自娱。十一年（1516）病卒，年69。
李东阳以台阁大臣主持文坛数十年，其为诗文典雅工丽，为首形成“茶陵诗派”。兼善书法，于篆隶造诣尤高。大家赞道李东阳“长沙公大草，中古绝技也！玲珑飞动，不可按抑，而纯雅之色，如精金美玉，毫无怒张蹈厉之癌，盖天资清澈，全不带渣滓以出。”所著有《怀麓堂集》100卷、《怀麓堂诗话》1卷，又有《燕对录》、《东祀录》等（据《四库总目》）。《明史》有传。