主战论调
当中法争执刚起时，张佩纶曾多次上奏，发表主战论调，强调中越唇齿相依，越亡，中国必受其害。认为中国有三大理由取胜：一、普法战争刚刚结束，法国失败后割地赔款，国力相当贫
乏；二、中法间距遥远，法军由本土到达福建要二三十日，而清军至福建快则三天，迟则十日即可到达，在人数上占优势；三、法国占领越南后，施行暴政，只要派人进行号召，越南人民就会其而响应，陷法军于四面受敌中。
张佩纶抵达福建后，立即查勘船政局及闽江沿岸各要塞形势，主张沉船堵塞闽江口，使法舰不得入内，但清廷不许先发制人，结果坐视大量法国军舰进入闽江。马江之战中，法军舰队司令孤拔致电张佩纶令其在12小时内投降，否则将进攻福建水师。而张佩纶并未收到此信，使得全军覆没。
战后，给事中方培上奏弹劾张佩纶，朝中一些人物也怀着各种目的群起而攻之。清廷后派与张佩纶平日意见相左的左宗棠等人查办此案，复奏后，朝廷指责左宗棠等人为张佩纶开脱，十一年（1885年），下旨将张佩纶从严发往军台效力赎罪，遣戍察哈尔察罕陀罗海、张家口等地。
三年后，返回北京，投入李鸿章幕下，主管文书，因原妻已死，娶李鸿章小女儿菊藕为妻。张佩纶于危难中得李鸿章施以援手，因此对李鸿章充满感激。甲午战争爆发前，曾建议李鸿章先将驻朝清军撤回，“示弱骄敌，再图大举”，御史端良弹劾他干预公事，于是被驱逐回籍。南下途中侨居南京。
清流党人
光绪五年至七年（1879－1881年）丁母忧期间，入李鸿章幕，在天津参观海防工事，参议海防事务。守制期满复职
后，多次上疏批评朝政，弹劾大臣，将户部尚书王文韶参奏罢免。光绪八年（1882年），署左副都御史，刚刚上任，立即弹劾罢免失职官员数人，上下震悚。由此成为“得名最远，招忌最深”的清流党人。次年五月，晋升侍讲学士。
从光绪元年至十年（1875－1884年）间，共上奏折、奏片127件，其中弹劾大臣和直谏的达三分之一。时，中法争执已起，张佩纶上疏请求发展水师，设南北洋水师四镇以防备；招致刘永福黑旗军以增强兵力。
清廷讨厌他阻碍和议，命他到陕西办事。回京后，在总理衙门行走，一再在对外交涉中据理力争，与外国政府的无理要求针锋相对。英国公使巴夏礼以“沙面事件”向总署施加压力，不准中国惩办凶手，并拍桌咆哮。张佩纶当即也拍桌质问“你已经引起两国间的一次战争，难道还想再来一次吗？”事后，中国向英国提出正式抗议。
十年（1884年），恭亲王奕䜣等人被西太后清理出军机处和总署，张佩纶企图挽回，由此与清廷意见相左，加上朝内树敌过多，在政治上失势。恰逢中法关系紧张，被派往福建会办海疆事务，后又署船政大臣。
辞官
二十六年（1900年），当听到八国联军攻陷大沽口的消息后，张佩纶急得“咳血升许”，“累画勤王和戎之策”。次年2月，李鸿章保荐其随办和约，张北上入李幕，但对官衔辞而不就。和约告成后，李鸿章复保荐张佩纶，清廷以四品京堂起用，张佩纶又坚辞不就。
病逝
光绪二十九年（1903年）正月七日，病死于南京，终年56岁。
