李皋为曹王李明的玄孙。少年时补官担任左司御率府兵曹参军。

天宝十一载（752年），袭封为曹王，授职都水使者，三次升迁官至秘书少监，都与正职俸禄相同。他多智谋，善于利用事机使得办事方便。侍奉太妃郑氏恭敬体贴，凭着孝顺而闻名。安史之乱时，他侍奉郑氏逃往民间，乘便跑到蜀郡，拜见唐玄宗，迁任左领军将军。

曾任衡州、潮州等地刺史。

建中三年（782年），郑太妃逝世，李皋为母服丧，扶灵至江陵。适逢山南东道节度使梁崇义举兵叛乱，朝廷于是起复李皋为左卫大将军，命他即刻返回湖南。旋即加授散骑常侍。淮宁军节度使李希烈叛乱，德宗升李皋为江南西道节度使、洪州刺史兼御史大夫。

李希烈叛乱时，南方诸镇各自封锁边境，据守一方，只有李皋几次派使者抄小路向朝廷进贡。李希烈攻逼永平军、宣武军，使江淮运道断绝，朝廷的贡物都从宣、饶、荆、襄各州取道武关北上，颇耗财力。李皋修治驿站，平整道路。此后，使者都往来通行无阻。 

贞元（785年－805年）初年，转任江陵尹、荆南节度等使（荆南节度使）。李皋屡次击败李希烈的进攻，收复数州，“江汉倚皋为固”。

淮西乱事平定后，李皋请求将母亲祔葬于东都洛阳，德宗允许，并派使者吊祭，追赠其父李戟为右仆射、郑太妃为曹国太妃。葬事结束后，李皋入长安觐见，旋即奉诏回镇，“出东都以拜墓”，为时人所荣。

贞元三年（787年），德宗授李皋为襄州刺史、山南东道节度使、检校户部尚书。

贞元八年（792年）三月十一日（4月6日），李皋因急病于任上突然逝世，享年六十岁。德宗为其辍朝三日，追赠右仆射，并赠以助丧财物，赐谥号“成”。

李皋死后，军中大乱，鼓角将扬清潭等发动兵变，夜里在城中纵火抢劫，唯独不冒犯李皋一家。

元和（806年－820年）初年，因子李道古在朝任职，加赠太子太师。