叶昌炽早年就读于冯桂芬开设的正谊书院，曾协助编修过《苏州府志》。1889年应试及第，授翰林院编修，入京任职于国史馆、会典馆等处。
1902-1906年担任甘肃学政，在1906年由于清朝废除科举、因而也就废除主管科举的学政之官时被撤职。叶昌炽学识渊博，著有《语石》、《缘督庐日记》、《藏书纪事诗》、《滂喜斋藏书记》等书。
光绪三十二年（1908）撤销各省学政，他不愿再为官，遂退居故里，以读书、著述、藏书终老。晚年取庄子“为善无近名，缘裻以为经”之义，自号“缘裻庐主人”。长于校勘，瞿氏《铁琴铜剑楼书目》、蒋氏《铁华馆丛书》、潘氏《功顺堂丛书》均由他审订。一生遍访大江南北各地藏书家，囊读历代藏书书目，自光绪十年（1884）开始，历时七年撰成《藏书纪事诗》7卷。又经过其七年的修订，于光绪二十三年（1897）由江标在长沙雕版刊行。专搜集各代、各地藏书家史实，对每位藏书家，各缀绝句一首，以抒其人特征或写其心爱珍藏。遍采正史、方志、笔记、官私簿录、古今文集、野史稗乘，无不搜寻摘录。潘祖荫见书稿后，击掌赞叹不已。时代起于五代，迄于清末，收录藏书家400余人，附见290余人。该书被称为“中国藏书史诗”，亦为书林之掌故，并可考我国文化传统之深远，尤对研究图书馆史、中国藏书史、文化史等有极高的参考价值。继此书之后，相继有杨立诚《中国藏书家考略》、吴晗《江浙藏书家史略》、伦明《辛亥以来藏书纪事诗》，莫伯骥《藏书纪事诗补续》、吴则虞《续藏书纪事诗》、徐信符《广东藏书纪事诗》等数种记述古今藏书家著作，皆以此书为典范，开创了专门藏书家研究的先河。富藏书，积至3万余卷，藏书处有“奇觚庼”、“治廧室”、“缘裻庐”、“五百经幢馆”、“辛臼簃”、“明哲经纶楼”等。编有《治廧室书目》、《五百经幢馆藏书目录》，著录精本1000余种。自己手抄图书达近百种，为抄写《上海县志》，曾“晨兴夜辍，手腕几脱”。精于金石学，收藏金石亦可观，曾徒步走遍平凉、张掖、敦煌、邠州、西宁、秦州、酒泉、庆阳、泾州、宁夏等十多个府、县，沿途所见古碑、旧刻皆亲自临拓，又在敦煌收得写经31页，莫高窟碑拓10余通；故其收藏碑版、经幢古物具有较高的文物和文献价值。