明朝廷特地任命都督刘远为浙江总兵官，兼职管辖苏、松诸郡，治理倭患，但刘远却毫无作为，在朝中大臣的争取下，俞大猷得以代替刘远为浙江总兵官。不久之后，俞大猷击败西庵、沈庄及清水洼一带的倭寇，明朝廷恢复俞大猷家世袭的特权。俞大猷大破徐海倭寇，浙西的的倭寇被彻底平定，但宁波舟山的倭寇依据险要，与官军抗衡，官军将其围困，而难以攻克。此时，士兵都已遣散放归，而从四川、贵州调集的麻寮、大剌、镇溪、桑植六千名士兵刚到，俞大猷乘大雪天，四面攻击舟山倭寇，倭寇拼死作战，杀死了士官一名。各路官军愈益争先，冲上去焚毁了敌人栅栏，倭寇死亡甚多，逃出来的也被歼灭，舟山倭寇被官军扫平，俞大猷以战功先后升任都督佥事、署都督同知。
胡宗宪听从卢镗的建议与汪直通市贸易，俞大猷表示坚决的反对，后来汪直被诱捕下狱，汪直的余党毛海峰占据舟山、岑港，俞大猷率军前往征讨，戚继光也率军前来，和俞大猷合兵一处，将毛海峰包围，四面攻打。但是岑港地势高，俞大猷、戚继光军仰攻困难，虽然有些小的胜利，但是将士死伤惨重，包围了很久都没有攻下来，而倭寇又不断有援兵到来，朝廷急切地督促胡宗宪出战，胡宗宪以大话敷衍。这个时候，朝中大臣竟然开始诋毁胡宗宪，并弹劾俞大猷，朝廷于是罢免了俞大猷和参将戚继光，并以一月为期限，平定倭寇。
俞大猷与戚继光于是对岑港展开猛烈的进攻，倭寇虽然死守，但终于抵挡不住，造船从岑港转移到柯梅，俞大猷和戚继光趁机追击，击沉倭船一艘，其余倭寇于是流窜到闽、广一带。俞大猷先后杀倭寇四五千人，几乎平定倭患，但是由于官军将倭寇围攻一年不能攻破，胡宗宪觉得让倭寇出走更有利，于是暗地让敌人逃跑，并不督兵追击。御史李瑚就此事弹劾胡宗宪时，胡宗宪却将罪责推到俞大猷头上，皇帝大怒，下令逮捕俞大猷，再次剥夺他的世袭荫庇的特权。
俞大猷好友陆炳用自己的钱财贿赂严世蕃，俞大猷得以被释放出狱，到了大同巡抚李文进手下，李文进于俞大猷商议后建造独轮车对付敌人的骑兵，并在实战中，用一百两独轮车和马步并三千于安银堡大破敌军。李文进将这种建制上报朝廷，朝廷于是开始设立兵车营，李文进与俞大猷袭击板升，大获全胜，俞大猷家世袭的特权得以再次恢复。而后俞大猷又于广武击败敌军，于是论平汪直功，并受到川湖总督黄光升的推荐，重新开始被录用，用为镇篁参将。
俞大猷奉命征缴广东广东饶平贼张琏，张琏自称飞龙国皇帝，攻略城池，俞大猷见张琏带兵远出，于是带兵进攻张琏的巢穴，趁张琏回兵救援时，将张琏击败，斩首一千二百余级。张琏被俞大猷打的害怕，坚守不出。俞大猷于是设计，引诱张琏出战，将张琏引诱的埋伏的地方，将张琏包围，将张琏连同其部下萧雪峰等全部生擒。与俞大猷协同作战的闽、广一带的官员冒领俞大猷的战功，但俞大猷并不与其计较。事后，俞大猷被提升为副总兵，协助驻守南、赣、汀、漳、惠、潮诸郡。俞大猷又乘胜征讨程乡的盗贼，梁宁逃走，徐东洲被擒获，林朝曦约请黄积山谋求大举抗拒官军，官军攻破贼营，斩了黄积山，林朝曦逃去，但后来也被徐甫宰所击灭。
从日本国本土而来的新的倭寇又伺机侵略，他们人数日益壮大以后，袭击兴化，但围攻了好几个月都没有攻下来。而此时刘显派了八个人带着书信到兴化传达信息，被倭寇拦杀，倭寇就换上刘显使者的服饰骗开城门，趁机攻陷了兴化城。倭寇攻陷兴化后，刘显率兵逼近兴化，但因为兵少，刘显不敢擅自攻城，却因此被弹劾，背负罪名。俞大猷认为在兵力不足的情况下，与倭寇在城外战，胜负参半，如果强行攻城，损失过重，反会被倭寇所灭，所以需要有足够的军队来合围。
朝廷以俞大猷为福建总兵官，并以谭纶为右佥都御史，巡抚福建前来支援，而都指挥欧阳深却中了倭寇埋伏搏战而死，倭寇遂占据平海卫。戚继光率领浙江兵前来支援，戚继光到后，谭纶立刻筹备对倭寇的总攻，先在各海道上环立栅栏阻断倭寇归路，而后谭纶以刘显为左军，俞大猷为右军，谭纶自领中军，以戚继光为先锋，围攻平海卫，一举告破，斩首两千余级，俞大猷与戚继光等率兵追击，倭寇道路不通，又被斩杀三千多人。收复兴化后，因戚继光功劳最多，于是朝廷让戚继光代替俞大猷为福建总兵官，俞大猷调任南赣总兵官。
俞大猷调任广东总兵官，潮州倭寇纠集两万多人，与海盗吴平互为犄角，而此时，少数民族首领蓝松三、伍端、温七、叶丹楼、程绍录、梁道辉等也开始作乱。俞大猷之前有招降这些少数民族部落的经验，而后又多次歼灭倭寇，很有威名，于是俞大猷单枪匹马去招降程绍录，又让程绍录劝梁道辉归降。惠州参将谢敕与伍端等交战，打不赢，就说“俞家军”来了，伍端等首领赶忙逃回山寨，不久，俞大猷果真来到惠州，将温七擒获。伍端见温七被擒，于是负荆请罪来俞大猷军中，请求攻打倭寇开弥补自己的过失。俞大猷于是以伍端为先锋，在邹塘围攻倭寇，焚杀倭寇四百多人。倭寇全部逃到崎沙、甲子等处，抢夺渔民船只向大海方向逃去。倭寇船只在海中多遇风沉没，侥幸脱险的二千多人，退守海丰金锡都。俞大猷率军将其包围两个月，倭寇粮食断绝，打算逃走，却被副将汤克宽设伏兵击败，手刃倭寇首领三人，参将王诏等人随后赶到，将倭寇全部剿灭，俞大猷于是转移到潮州，将蓝松三、叶丹楼、吴平等招降。
吴平造船几百艘，聚众一万多人，筑城造反，在劫掠滨海诸郡，戚继光率军将吴平击败，吴平逃往南澳，不久之后，吴平攻掠福建，把总朱玑等战死。俞大猷率领水军，戚继光率领陆军，二人夹击南澳，大破吴平，吴平只身前往凤凰山。戚继光留守南澳，俞大猷部将汤克宽、李超前往攻打，但却遭遇失败，吴平抢夺民船逃到海上，俞大猷遭到巡按御史的弹劾，被免官，而吴平又被汤克宽在万桥山歼灭，吴平生死不明。
李亚元在河源、翁源一带作乱，总督吴桂芳征兵十万，派俞大猷前往征讨，俞大猷分兵五哨，直岛李亚元巢穴，前后俘斩一万四百余人，夺回百姓八万余人，朝廷于是以俞大猷为广西总兵官，授平蛮将军。而后伍端病死，伍端部下王世桥叛乱，并劫持同知郭文通，俞大猷率军前往将击败，王世桥部下将其捆绑来献给俞大猷，俞大猷官进署都督同知。
海贼曾一本在广州、福建叛乱，澄海知县被擒，守备李茂才战死，朝廷于是让俞大猷暂时督广东兵前往征讨，俞大猷率领郭成、李锡等将其剿灭，将曾一本擒杀，俞大猷官进右都督。广西黄朝猛、韦银豹作乱，劫杀官军百姓，抢夺财物，巡抚殷正茂征兵十四万，派俞大猷前往讨伐，俞大猷兵分四路，连破贼巢几十个，韦银豹等退保潮水，潮水地势非常高，俞大猷连续攻打了十多天没有攻下，于是佯攻马浪，派参将王世科趁雨夜上山设伏，黎明时开始攻山，将敌人全部歼灭，斩首八千四百余，并生擒黄朝猛、韦银豹，俞大猷因功子孙世袭指挥佥事。
俞大猷是一位廉洁的将帅，对部下颇有恩惠，数建奇功，名震南部疆土，而巡按李良臣以奸贪之罪弹劾他，兵部坚决为其辩诬，皇帝诏令俞大猷回原籍听候差遣。后来起用为南京右府佥书，未及赴任，后又以都督佥事出任福建总兵官。海贼突袭闾峡澳，俞大猷因战事失利被免官，又以署理都督佥事起用为后将军府佥书，负责训练车营。
俞大猷连续上疏三次，请求告老还乡，不久病死，朝廷追赠赠左都督，谥武襄。俞大猷负有奇节，以古代贤人豪士为自己的楷模。他用兵，先谋略而后征战，眼光远大，不贪近功，忠诚为国的精神老而弥笃，所到之处屡有大功。