韦皋出身“京兆韦氏”，唐代宗大历初年，从建陵挽郎任上调补为华州参军，累官被授为使府监察御史。宰相张镒出任凤翔陇右节度使，上奏荐举韦皋为营田判官，得任殿中侍御史，临时署理陇州行营留后事务。

建中四年（783年），泾原军进犯京师，德宗逃往奉天，凤翔兵马使李楚琳杀死张镒，率凤翔府城叛变，归附于叛臣朱泚，陇州刺史郝通投奔李楚琳。此前，朱泚从范阳入朝任职，命甲士随从自己入京；后来朱泚任凤阳节度使，罢职以后，留下范阳的五百名士卒戍守陇州，而由原朱泚部下旧将牛云光督率他们。这时朱泚既已率叛军包围奉天，牛云光便假托有病，请求韦皋担任统帅，而暗中策划叛乱，准备擒获韦皋前去投靠朱泚。韦皋的部将翟晔探听到了这件事，报告韦皋预做准备，牛云光知道事情泄漏，便率领他的兵卒投奔朱泚。行至汧阳，遇见朱泚的家奴苏玉正要到韦皋那里去，苏玉对牛云光说：“太尉（朱泚）已登上了皇帝宝座，派我持诏书前去任命韦皋为御史中丞，你可率兵返回陇州。韦皋如果接受任命，就是我们的人；如果不接受，他不过是个书生，可以算计他，事情没有不成的。”牛云光便掉转旗号迅速奔赴陇州。韦皋迎上去慰劳他们，先接纳苏玉，受了伪诏，才问牛云光道：“当初不告而别，现在又回来，这是为什么呢？”牛云光说：“原先不了解公之心意，所以偷偷离去；知道您有新的任命，现在才又回来。希望和您一道尽力奠定功勋，同生共死。”韦皋说：“好呀！”又对牛云光道：“肩负重大使命的人若不怀欺诈，就请交出武器甲仗，使城中的人免去畏惧、怀疑，方可入城。”牛云光把韦皋当作书生，而且认为他这番话可信，便将弓箭、兵器、甲仗尽数交出，韦皋接收之后，便让他的军队进城。次日，韦皋在郡府屋舍中设宴犒劳苏玉、牛云光的士卒，在两边廊下埋伏了甲士，酒过一巡，伏兵齐起，将叛军全都杀死，砍下牛云光、苏玉的脑袋以示众。朱泚又派家奴刘海广前去任命韦皋为凤翔节度使，韦皋斩了刘海广和他的三个随从，留下一个让他回去向朱泚报信。德宗下诏任命韦皋为御史大夫、陇州刺史，设置奉义军节度使以表彰他。韦皋派遣他的堂兄韦平和韦弇相继进入奉天城，城中的人闻知韦皋有准备，士气倍增。

韦皋在庭中筑起高台，涂抹牲血，与将士们盟誓道：“上天不怜恤百姓，国家多难，叛臣伺机盗占宫廷，而李楚琳也煽动凶徒，攻陷城邑，所施残酷暴虐，延及本使，既然不能侍奉皇上，又怎能体恤百姓。我因此心情愤激，没有安宁的闲暇，誓和大家一起竭诚拥戴王室。凡是和我一起盟誓的人，同心协力，顺天行事，扫除顽凶，先祖在天之灵，必会在幽冥中赞赏。言辞诚信则志同道合，正义相感则心齐力协，粉骨碎身，决不回头。若有改变心志的，神灵将击杀他，祸及子孙，决无族类遗存。皇天后土，当验证此言。”又派人到吐蕃求援。十一月，加授检校礼部尚书。

兴元元年（784年），德宗返回京师，征召韦皋为金吾卫将军。不久升为金吾卫大将军。

贞元元年（785年），韦皋官拜检校户部尚书，兼成都尹、御史大夫、剑南西川节度使，以替代张延赏。

由于南诏与吐蕃和好，吐蕃人入侵，必以南诏作为先锋。贞元四年（788年），韦皋派遣判官崔佐时进入南诏，劝说令他们归顺王化，以脱离对吐蕃的依附。崔佐时到达蛮国羊咀咩城，其国王异牟寻欣然接待，崔佐时代表朝廷请他们同吐蕃绝交，派遣使臣向朝廷进贡。当年，韦皋让东蛮首领骠傍、苴梦冲、苴乌等相继入朝。南蛮自巂州陷落后，成为吐蕃的臣属，继绝朝贡前后共二十余年，到这时又重新通好。

贞元五年（789年），韦皋派遣大将王有道挑选精兵进入吐蕃境内，和东蛮一起，在从前巂州的台登北谷将吐蕃的青海、腊城两节度打得大败，斩杀二千人，生擒笼官四十五人，那投身崖下深谷而死的不计其数。吐蕃将领乞臧遮遮是吐蕃的一员勇将，长期成为边患，自从擒住乞臧遮遮之后，吐蕃的城邑栅寨没有不投降的，几年之内，终于收复了巂州，韦皋因战功而被加授吏部尚书。

贞元九年（793年），朝廷修筑盐州城，因为担心遭吐蕃偷袭，便下诏命韦皋出兵牵制吐蕃。韦皋便命令大将董面力、张芬从西山出兵到达南道，攻破峨和城、通鹤军。吐蕃的南道元帅论莽热率兵前来援救，又被击败，被杀死杀伤了几千人，焚毁了定廉城。一共铲除堡栅五十余处，韦皋因功而晋封为检校右仆射。韦皋又招降、安抚西山羌蛮的女、诃陵、白狗、逋阻、弱水、南水等八国的酋长，入朝进贡。

贞元十一年（795年）九月，韦皋被加授统押近界诸蛮、西山八国兼云南安抚使。

贞元十二年（796年）二月，就地加授同中书门下平章事。

贞元十三年（797年），收复巂州城。

贞元十六年（800年），韦皋派将领出兵，多次在黎州、巂州击败吐蕃的军队。吐蕃大怒，便进行大规模搜索、检查，修筑堡垒，建造舟船，图谋入侵，韦皋将其全都挫败。这时吐蕃酋帅兼监统曩贡、腊城等九地节度使婴，笼官马定德，以及他的八十七名大将率领整个部落前来投降。马定德有谋略，熟知兵法和山川地形，吐蕃每次用兵，马定德常常乘坐驿车前往计议军事，吐蕃军中诸将都向他禀报既定方案；至此，他才因骚扰边境违犯律令，惧怕罪罚而归顺朝廷。

贞元十七年（801年），吐蕃在昆明城所管领的磨些蛮又有一千多户投降。吐蕃的君长因其部众溃散，便侵犯北方的灵州、朔州，攻陷麟州。德宗派遣使臣到成都府，命令韦皋出兵深入吐蕃境内。韦皋便命令镇静军使陈洎等率领一万名士卒从三奇路出兵，令威戎军使崔尧臣率一千名士卒从龙溪石门的路南出兵，维州、保州二州兵马使仇冕及保州、霸州二州刺史董振等率二千士卒直趋吐蕃的维州城中，北路兵马使邢王此等率四千人直趋吐蕃的栖鸡、老翁城，都将高倜、王英俊率四千人进军原松州，陇东兵马使元膺的士卒八千人由南道的雅州、邛州、黎州、巂州一齐出击。韦皋又命令镇南军使韦良金率领一千三百人后续跟进，雅州经略使路惟明等率兵三千人直趋吐蕃的租、松等城，黎州经略使王有道率军二千人渡过大渡河，深入吐蕃境内，巂州经略使陈孝阳、兵马使何大海、韦义等，以及磨些蛮、东蛮二部落的酋长苴那时等的兵卒四千人进攻昆明城、诺济城。从八月出兵入吐蕃，到十月击破吐蕃军队十六万，攻下城邑七座、军镇五处，有民户三千，生擒敌兵六千人，斩首万余，于是进攻维州。援军两度来到，转战千里，吐蕃军连连战败。这时吐蕃进犯灵州、朔州的部众被调南下，吐蕃君主派遣论莽热以内大相之职兼任东境五道节度兵马都群牧大使，率领各部族混编的队伍十万人来解救维州之围。蜀州军一万名士卒占据险要设置伏兵以等待吐蕃军，先派出一千人前去挑战。论莽热见我军人少，便率领全军追击。我军伏兵齐出，攻其不备，呐喊声犹如惊雷，吐蕃军不战自溃，我军生擒论莽热，俘获其十万名士兵，杀死一半。这年十月，韦皋派人将论莽热献交朝廷，德宗数落他的罪状，然而释放了他，赐给他在崇仁里的府第一座。韦皋因战功而加授检校司徒，兼中书令，封南康郡王。

唐顺宗即位后，加授韦皋检校太尉。顺宗长期患病，不能临朝听政，宦官李忠言、侍棋待诏王叔文、侍书待诏王伾等三人预干国家大政，大小事务均由他们随心所欲地处理。韦皋便派度支副使刘辟私下拜谒王叔文说：“太尉派我向足下表示诚意，如果能够使太尉总管剑南三川，必有重谢；如果不留意此事，也会有回报的。”王叔文大怒，打算杀了刘辟以警告效法者，韦执谊坚决劝止了他，刘辟便偷偷离去。韦皋知道王叔文不随和人情，又知道他与韦执谊有嫌隙，自认为大臣可以议论国家大政方针，便上表请求皇太子监国。又上书于皇太子。太子以优宠的敕令答谢了韦皋。而裴均、严绶的笺表也接着送达，从此政柄归于太子，王伾、王叔文一党全被驱逐。

同年，韦皋暴病而死，时年六十一岁，追赠太师，辍朝五日，谥号忠武。