胡林翼在湘军集团中，是仅次于曾国藩的二号人物。他既是湘军大佬，又是湖北省绿营的统帅，能文善武，懂经济，擅理政，与曾国藩、左宗棠被史学家称为大清“中兴三名臣”。在晚清，时人都认为胡林翼的治行才望在曾国藩、左宗棠之上。曾任御史的晚清名士慈铭说胡林翼“老谋深识，烛照不遗，固中兴第一流人”，曾撰著《湘军志》的晚清大学者王闿运说“中兴之业，实基自胡”，而沈卓然认为胡林翼应位列同治中兴功首，《清史稿》评价他：长于综核，干济冠时。
曾国藩自己也曾在奏议中称赞“润芝（胡林翼）才力过国藩十倍”。曾国藩还说胡林翼之功在于“变风气为第一，而荡平疆土二千里次之”。李鸿章晚年，与人谈旧事，常挂在口边的是“先师曾文正公”与“前辈胡文忠公”（胡林翼谥“文忠”）。清人唐文治在《胡文忠公语录序》中对胡林翼有两句恰如其分的赞语：“此其量，江海之量；此其心，江海之心也。”《清史稿》对胡林翼识才、爱才和用才方面的过人之处也评价甚高，说他“驭将以诚，因材而造就之，多以功名显”。
胡林翼在后世之所以鲜为人知，主要是因为他壮年早逝，才华未能充分地施展开来。“中兴三名臣”之中，曾国藩享寿六十一岁，左宗棠更是以七十三岁高龄西归，而胡林翼却仅仅活了四十九岁。当时舆论普遍认为，若胡林翼不死，成就当不在曾国藩之下。
胡林翼出身颇有家资的书香门第，年轻时放荡不羁，经常寻花问柳，目空一切。其父胡达源深以为忧，逼他刻苦攻读圣贤之书，常为此掀髯动怒。后来，胡达源无奈之下只好将孽子送至好朋友、两江总督陶澍的幕府，让他去好好领教领教“军管”的滋味。哪曾想到，胡林翼到了江宁（南京），半点也不收敛，依然我行我素，风流依旧。两江总督陶澍严禁僚属酒色荒嬉，却唯独对胡林翼网开一面，还将爱女毅然决然地许配给他，陶夫人再怎么反对也无济于事。其时，胡林翼在南京纵情山水，并流连忘返于秦淮河畔、钓鱼巷中时，有人密告陶澍，不料陶澍却说：“润之（芝）之才，他日勤劳将十倍于我，后此将无暇行乐，此时姑纵之。”（黄濬：《花随人圣庵摭忆》，上海书店出版社1998年版，第434页）
更有趣的是，新婚之夕，大家四处都找不到新郎官胡林翼的影子，原来他独自跑到外面喝酒去了，而且喝得烂醉如泥。这一回，陶夫人更加火冒三丈，埋怨陶澍看人走眼，选择了这么个混账女婿，误了女儿终身。陶澍回答道：“此子是瑚琏之器，将来必成大事，年少纵情，不足深责。他现在不玩，国家用材之时，他就没有时间玩了。”
有一次，胡林翼陪老丈人陶澍请当地名流吃饭，席间他侃侃而谈，不管谁和他辩论都要被他一顿奚落甚至讥讽，结果被岳父骂作“浮萍耳”。此后，他便浪子回头，开始铆足了劲儿念书，第二年乡试高中，第三年又连捷中进士点翰林，时年仅二十五岁。
