段成式青年时期为官宦子弟，英俊潇洒，彬彬有礼，活泼好动。他的好友周繇《嘲段成式》诗中写道：“蹴鞠且徒为，宁如目送时。报仇惭选耎（怯弱），存想恨逶迟。促坐疑辟咡（交谈时侧着头避免口气触及对方），衔杯强朵颐（鼓着腮颊嚼食之态）。恣情窥窈窕，曾恃好风姿。色授（睹貌动情）应难夺，神交愿莫辞。”此诗写了他年轻时的风貌。段成式自幼即力学苦读，博学强记，少好猎。其禅见洽闻，为时人所叹服，自言：“成立以君子耻一物不知”，故他的博闻在唐代作家中是不多见的。成式历任秘书省校书郎，吉州、处州、江洲刺史，直至太长少卿。成式为官期间，曾为故里修七孔拱桥，架通南北之路。乡人为记段氏功德，遂将相邻的段、加、马、乔四村改名为“段桥”，并刊石立碑。
段成式年轻时随父亲段文昌（曾任四川节度使等职）转徙各地，了解各地风土人情、轶闻趣事，开拓了生活视野，加之他精研苦学，博览了包括官府秘籍在内的大量图书。他以读书为嗜，博学强记，矩识渊博。段成式和当时的诗人温庭筠、李商隐、李群玉、周繇结为朋友，往来密切。这对他的诗文创造也产生了很深的影响。段成式曾因父亲段文昌的关系，就任秘书省校书郎，居府第“修行里”。他自己说：“武宗癸亥三年夏，予与张君希复善继，同官秘书。”这是公元843年，他大约40来岁的事情。后来他“累官迁尚书郎”，又出任江州刺史，至“大中中归京，仕至太常少卿”。他居长安时，“以闲放自适”，“尤深于佛书”，这正是他晚年生活的概括。他于懿咸通四年六月卒，享年约六十一岁。
在唐代晚期文学家中，段成式的文学成就是多方面的。他能诗善文除代表作志怪小说集《酉阳杂俎》传于后世外，在《全唐诗》中还收入他的诗词30多首，《全唐文》中收入他的文章11篇。在诗坛上，他与李商隐、温庭筠齐名，号称“三十六”（段、李、温均排行十六，故称）。现存段成式的诗，多是绝句和律诗，十分讲究词采的艳丽，风格清丽秀美。晚唐社会“官乱人贫，盗贼并起，土崩之势，忧在旦危”，皇帝仍旧终日宴游，不理朝政。在这样的社会环境里，段成式信佛读经，饮酒赋诗唱和，以解其忧，诗中多流露出超脱世俗的消极情绪。