开篇四句，以睹物思人写起。“开箧”见书，说明二人交情深厚。而见“书”思人，愈增哀痛，因此感情无法控制而猛烈迸发出来，不禁悲泪滂沱，湿透胸臆。既紧切题目的“哭”字，又渲染出一种极为悲哀的气氛笼罩全诗，确立了一个“悲”的感情基调。“夜台”即坟墓。“子云居”指扬雄的故居。据《汉书·扬雄传》：“其先出自有周伯侨者，以支庶初食采于晋之扬，因氏焉。”扬在河、汾之间，汉为河东郡扬县（今山西洪洞县东南）。这里一语双关，既点出梁九的墓地在扬雄的祖籍晋地，又暗示出亡友生前门庭萧条，生活清苦，有如扬雄。这两句不写诗人感到挚友亡殁而寂寞，生死茫茫而怅惘，却想象坟墓中亡友的“寂寞，”更显出感情的深婉动人。
紧接着六句，以“畴昔”二字引出对生前交游的追忆：追忆当年，贪自然之“灵奇”，共“登临”而赋诗；游“南浦”而同舟，泛“西江”而玩月”（南浦、西江均在今武昌一带）；虽勤苦（“契阔”即勤苦）多远别，但情深而缠绵（“绸缪”即缠绵）。两联细描高度概括了他们二人相处的欢乐，交情的亲密，乃至生死不渝。这既是对前面“泪沾臆”的补充说明，又反衬出痛失故友的巨大悲伤。
“九原”（即九泉）以下四句，先以“即何处”领起：意思是：亡友不知在何处？人间“万事”都是如此渺茫难求，只有“晋山”（指太行山）高耸入云，而梁九少府却深居于九泉！以自然的永恒，反衬出人生的无常，流露出对梁九少府一生不幸遭遇的同情和人世不平的愤怨。
“常时禄且薄”以下，主要通过叙述梁九少府的生平，委婉揭示出当时社会对贤士的排斥和压抑，将哀伤之情抒发得更为深婉诚挚。生前“禄薄”，死后更为“贫困”；妻子远离他乡，又无弟兄扶持。描述梁九生前死后家计的贫寒孤寂，其惨痛之状犹如雪上加霜。最后六句，再写他生前仕途的坎坷：曾“十上”奏疏，“苦辛”国事，但不为所纳。长期身居微官，沉沦下僚，令人悲愤不平。“青云”（喻高官显位）虽有可致之期，但不幸却如“白日”西沉，早离人世。如今虽有清名“空留”人世，为“远近”所晓，但大志未展，功业未成，实是徒有虚名，于“实”无补。沉痛之情，溢于言表。
此诗感情极为深婉绵长，个中原因固然应归于梁九少府的一生确系“命途多舛”，催人泪下，更为重要的是，写梁九的一生所历，实际也是诗人遭际的写照。高适“喜言王霸大略，务功名，尚节义”。但蹉跎半生，到处碰壁，甚至“求丐取给”（《旧唐书·高适传》）。因此在“哭”亡友的同时，不由得联想到自身的困顿，自然有切肤之痛，故感情格外酸楚动人。通篇以痛哭为诗，首先从睹物思人写起，“哭”字领起全篇。然后追叙生前相处的欢乐，接着“九原”以下四句议论，对梁九的不幸深为同情，对社会的不平，悲愤难禁。然后再叙写他生前死后家计的贫苦冷寂，一生仕途的坎坷不平和英年早逝，寄寓了深深的慨叹和惋惜。最后两句再转入议论，以实绩与“空”名对比，将哀伤之情抒写得更为深沉绵长。