开成五年，唐武宗继位，将李德裕从淮南召回朝廷，拜为宰相，授其为门下侍郞、同中书门下平章事。当时唐武宗不理朝政，屡次出猎游幸，至深夜方才还宫。李德裕加以劝谏，被册拜为司空。会昌元年四月，李德裕奏请改撰《宪宗实录》，命史官删除父亲李吉甫在元和年间不善的事迹，遭到时人非议。
此前，回纥被黠戛斯击败，部族分散各地。会昌元年八月，回纥嗢没斯部到天德军请求内附。天德军使田牟、监军韦仲平贪求边功，想联合吐谷浑、沙陀、党项等部落，乘势出击。朝臣大多表示赞成，李德裕则竭力反对。他认为回纥在平定安史之乱中有功，如今嗢没斯率部来降，秋毫无犯，应予以安抚。即使需要出击的话，天德军兵力不足，一旦交战失利，城池必然陷落。如果他们骚扰边境，即可调动各道兵马讨伐。朝廷采纳了李德裕的建议，赐给嗢没斯部粮食二万斛。
会昌二年，回纥乌介可汗要求唐朝执送嗢没斯，并索要粮食、牛羊，被拒绝后又提出借取天德城。朝廷不许，乌介可汗便率军越过杷头峰（今山西包头附近），进犯大同、云州等地。李德裕详细地分析了回纥的情况，建议唐武宗出兵征讨。唐武宗遂征调许州、蔡州、汴州、滑州等六镇兵马，任命刘沔为回纥南面招讨使，张仲武为东面招讨使，李思忠（即嗢没斯）为西南面招讨使，并命三将在太原会师。
当时回纥大肆劫掠，党项、退浑等部落都不敢抵拒。李德裕制定了奇袭乌介可汗、夺回太和公主（唐宪宗之女，和亲公主）的策略，并推荐猛将石雄，唐武宗便将方略告诉刘沔。刘沔命石雄率三千骑兵为先锋，自己率大军继后。石雄在夜晚利用地道奇袭乌介可汗牙帐。乌介可汗身受重伤，仓皇而逃。刘沔也率大军赶到，在杀胡山大破回纥军。太和公主得以回朝，李德裕也因功进位司徒。
会昌三年，昭义节度使刘从谏病逝，其侄刘稹欲效仿河朔三镇，要求袭任节度使。李德裕力主出兵征讨，道：“泽潞镇深处国家内陆，与河朔三镇情况不同，不能让他们效仿河朔。刘从谏跋扈难制，，多次胁迫朝廷，如今病死，又将兵权交给刘稹。如不讨伐泽潞，朝廷何以号令四方？如授刘稹为节度使，各藩镇必效仿其所为，从此天子威令何在？”他又道：“刘稹依仗的无非是河朔三镇，只要魏博、成德不出兵相助，必能平定刘稹。陛下可遣使告诉二镇，让他们出兵攻取山东三州。”唐武宗赞同。成德节度使王元逵、魏博节度使何弘敬果然奉诏出兵。
