年青时曾从师陈傅良。两人是同乡，志趣相投，且都负文名。一时“声价喧踊，老旧莫敢齿列。”十八岁时，应礼部试，考取第一名。后几次选拔，文皆过于师。
一回孝宗亲自策士，拟将幼学列为首选。廷对时，这位初生之犊却说，“陛下资虽聪明而所存未大，志虽高远而所趋未正，治虽精勤而大原不立。即位之始，冀太平旦暮至。奈何今十年，风俗日坏，将难扶持；纪纲日乱，将难整齐；人心益摇，将难收拾；吏慢兵骄，财匮民困，将难正救。”孝宗看罢四个“将难”对策，心中不悦，宰相虞允文尤恶之。幼学遂而下第，遣为广德军教授。
过了几年，当时执政荐他入朝，孝宗也答应，问“年几何矣？何以名幼学？”参政施师点答，“孟子云，‘幼而学之，壮而欲行之。’故幼学其名，行之其字”。孝宗伫思良久慨然道，“今壮矣，可行之已。”即授予敕令所删定官。幼学入朝，适温州大水，为解百姓之困，上疏请求赈济，朝廷从之。
光宗立，以太学录召，改授武学博士。逾年升秘书省正字兼实录院检讨官。又过数年，宁宗即位，幼学得器重拟要进擢。时宰相韩侂胄用事，为排除异己，施行“伪学”之禁。蔡幼学与朱熹、陈博良、叶适等五十九人，尽入“伪学”查禁之列，“并令省部籍记姓名，与闲慢差遣。”幼学见京中朋类将散，自己也被罗织，便力求外补。遂而特除提举福建常平，外放至福建。当时朱熹居建阳，幼学每事咨访，又被御史刘德秀劾罢，任闲职凡八年。
嘉泰二年，“伪学”之禁渐弛，幼学起如黄州。旋又召为吏部侍郎，再迁国子司业、宗正少卿，皆权中书舍人。中书舍人为六房（吏、户、礼、兵、刑、工）承办文书和起草诏令官员，位较重。侂胄诛后，余党尚塞正路，幼学次第弹劾，窜黜尤众，号称职。嘉定间，幼学除龙图阁待制、知泉州，旋又进福建路安抚使。在任关切民瘼，敢为民请命。当时提举司命令百姓以田高下藏新会子，若不如令，便要抄没其资产。新会子是纸币，因滥发而价值大跌，同时又不能作交纳赋税用。幼学愤然，“罔民而可，吾忍之乎！惟有去而已”。要求罢去这坑民之苛令。