砥定江南
开宝七年（974年），朝廷准备讨伐南唐。九月，曹彬奉诏与李汉琼、田钦祚先行到荆南征发战舰，潘美率领步兵接着出发。十月，诏令任命曹彬为升州西南路行营马步军战舰都部署，分兵从荆南顺流而东，攻破峡口寨，接着攻克池州，连续攻克当涂、芜湖二县，驻扎在采石矶。十一月，造浮桥，横跨大江以渡过部队。十二月大破南唐军于白鹭洲（今江苏南京水西门外）。
开宝八年（975年）正月，又在新林港大破南唐军队，二月，军队进驻秦淮，南唐水陆军队十多万人在城下列阵，宋军大败南唐军，斩杀、俘获一万多敌人。浮桥造成后，南唐出兵抵抗，宋军在白鹭洲大败南唐。从三月到八月，连连击败敌军，又攻克润州。金陵城被围，到此时一共有三个时辰，居民砍柴的路被断绝，南唐军屡次被打败，南唐国主李煜极感危急，派遣其大臣徐铉送表到朝廷，乞求缓师停战，赵匡胤不同意。
在此之前，宋军排列成三寨，潘美镇守偏北方，把战争形势绘成图送给赵匡胤。赵匡胤指着北寨对使者说：“南唐必定夜晚出兵来进攻，你赶快回去，命令曹彬迅速挖沟来巩固阵地，不要中了敌人的诡计。”深沟挖成后，南唐军果然夜里来突袭，潘美率领所属部队依靠新沟抵抗，南唐大败。上奏战报到朝廷时，赵匡胤笑着说：“果然如此。”
长期的围城中，曹彬常常缓攻，希望李煜能归降。十一月，曹彬又派人晓谕他：“事势已经如此，只可惜一城的百姓，如果你能归降，真是上策啊。”金陵城即将被攻克时，曹彬忽然称病不处理事务，诸将都来探病。曹彬说：“我的病不是药石能治好的，只要诸公诚心立誓，克城之日，不妄杀一人，就会自动痊愈。”诸将答应下来，一起焚香立誓。
次日，他自称病情稍微好转。再过一天，金陵城被攻陷。李煜与他的大臣们一百多人到军营请罪，曹彬安慰他，用贵宾礼接待他，请李煜入宫换装，曹彬只派几个骑兵等在宫门外。部下暗地对曹彬说：“李煜入宫如有不测，怎么办？”曹彬笑着说：“李煜向来懦弱不能果断，既然已经投降，一定不会自杀。”李煜的君臣，最终赖以保全，从出师到凯旋，士卒们都畏服他，不敢轻举妄动。入宫朝见时，名帖上自称“奉令到江南办事回来”，他的谦恭不夸耀就像这样。
当初，曹彬统领军队，赵匡胤对他说：“等攻克李煜后，任命你为使相。”副帅潘美预先向他祝贺。曹彬说：“不是这样，这次行动，仰仗天威，遵照朝廷谋略，才能成功，我又有什么功劳呢？何况使相是极品吗？”潘美说：“怎么说呢？”曹彬说：“太原（指北汉）尚未平定啊。”回朝后，举行献俘仪式。
赵匡胤对曹彬说：“本来要授任你为使相，但是刘继元（北汉皇帝）没有攻灭，暂且稍微等待一些时候。”听见这句话后，潘美偷看曹彬微笑。宋太祖发觉后，于是责问他为什么发笑，潘美不敢隐瞒，于是按实情回答。赵匡胤也大笑起来，赐给曹彬钱二十万。曹彬退朝后说：“人生何必作使相，好官也不过多得些钱罢了。”不久后，他被任命为枢密使、检校太尉、忠武军节度使。
协赞北征
太平兴国元年（976年），宋太宗赵光义即位，加授曹彬为同平章事，成为使相。赵光义与群臣商议征伐北汉，召曹彬来问道：“周世宗及太祖（指赵匡胤）都亲征（北汉），为什么不能攻克？”曹彬说：“周世宗时，史彦超在石岭关兵败身死，军情惊扰，所以班师；太祖在甘草地驻扎部队，正遇天气酷热下雨，士兵们大多染上疾病，于是中途停止。”赵光义说：“如今现在我打算北征，你认为怎么样？”曹彬说：“以国家的精兵，剪除北汉这个孤垒，简直就像摧枯拉朽，为什么不可以呢？”赵光义于是决议出征。
太平兴国三年（978年），曹彬进位检校太师，随赵光义征讨北汉，加兼侍中。太平兴国八年（983年），曹彬被弭德超诬陷，罢官任天平军节度使。十多天后，赵光义醒悟，进封他为鲁国公，对其愈发厚待。
岐沟关之败
雍熙三年（986年），赵光义诏令曹彬率领幽州行营前军马步水陆军队，与潘美等人北伐，分路进讨。三月，在固安打败辽军，攻克涿州，戎人来增援，宋军在城南大败援兵。四月，又与米信一起在新城打败辽军，杀敌二百人。五月，曹彬等在歧沟关之战中大败，退守易州，面对易水扎营。赵光义听说，急忙分派诸将分兵屯守边城，追令北伐诸将回朝。
在此之前，贺令图等人对赵光义说：“契丹主（辽圣宗）年少，母后专政，宠幸大臣们用事，请趁其灾祸，攻取幽蓟。”他于是派曹彬与崔彦进、米信从雄州（今河北雄县），田重进赴飞狐，潘美从雁门出发，约期一齐出兵。将出发时，赵光义对曹彬说：“潘美所部先奔赴云、应二州，你们以十万人声言攻取幽州（今北京），但要持重缓行，不得贪求功利。
敌人听说大军到了，一定全军救范阳，无暇救山后。”不久，潘美的部队先攻下寰、朔、云、应等州，田重进又攻取飞狐、灵丘、蔚州，得到很多山后要害之地，曹彬也连连攻下州县，声势大振。每次奏本到来，赵光义已经很惊讶曹彬进军太快。曹彬驻扎涿州时，十天食尽，于是退到雄州补充粮草。赵光义听说后说：“哪有敌人在前，反退兵补充粮草之理，真是太失策了。”急忙派使者阻止他前进，让他马上引军沿着白沟河与米信会师，按兵不动，蓄精养锐，声张西军的军势；等潘美等人全部攻占山后之地后，与田重进会师向东，合势攻取幽州。
当时曹彬的部将，听说潘美和田重进屡建军功，而自己手握重兵不能有所攻取，谋议蜂起。曹彬不得已，于是又带着粮草再去进攻涿州。契丹大军当前，当时正值气候炎热、军士困乏，粮草即将耗尽，曹彬仓促退兵，军阵混乱，于是被契丹追破。
曹彬等人回朝后，诏令由尚书省审讯、翰林学士贾黄中等负责惩治，曹彬等人供认违令失律之罪。诸将依次被贬降，其中曹彬被贬为右骁卫上将军。
