以大学士的身分，张居正不仅没有权力公然颁发指令，甚至不能公开讨论制度的改组。他所采用的方式是用私人函件授意亲信如此如此地向皇帝提出建议。这些建议送到内阁票拟，他就得以名正言顺地代替皇帝作出同意的批复。他进入文渊阁以后的第一个皇帝是一个昏庸的君主，对国事既不理解也不关心；第二个皇帝则是小孩子和他的学生。环境和才能加在一起，造成了张居正的权威。但是他还是需要小心从事。帝国的官僚政治已经发展到登峰造极，成千成万的官僚，在维护成宪的名义下保持各方面的平衡，掩盖自己不可告人的私利。要公然宣布改组军事制度，就等于邀请别人对自己攻击。因此张居正不得不采取这种迂回的方式。反正皇帝站在他这一边，不论别人是否识破真相，只要举不出违背成宪的理由，则公开的攻讦和私下的流言都可以不在话下。
蓟州军镇的军备改革，按照这样的程序顺利地进行。最初，戚继光建议把北方各镇10万名士兵交给他训练3年，由于计划过大，在政治上和技术上都有许多不易解决的问题，因而未能实现。但是中枢政府批准了他的另一项建议，即把他在浙江所训练的一部分士兵调至蓟州，最初员额为3000人，以后扩充为2万人。张居正对戚继光极度信任，企图赋予他以这一军区统筹全局的权力，所以才拟议设立“总理蓟州军务”的官衔，以和其他各军区的“总兵”相区别。无奈这一官衔在本朝史无前例，各种议论就纷至沓来，乃不得已而作罢。这一计划不能实现，张居正找出了另一种办法，即把蓟州辖境内的其他高级将领调往别镇，以免遇事掣肘。这时谭纶又建议该区的文官不得干预军事训练，并且主张戚继光在3年的练兵期内可以不受监察官的批评。后者显然又为文官们制造了违反成宪的口实，引起猛烈反对。皇帝的朱笔批示接受了兵部和都察院的建议，要求监察官明白练兵的重要，责成他们“和衷共济”，并把他们对蓟州防区的巡视限为每年一次；对谭纶和戚继光则希望他们“稍宽以文法，乃得自展”。事实上，凡是故意和戚继光为难的文官，后来都被张居正不动声色地陆续迁调。
蓟州军开始训练，就接受了优厚的财政接济以购买军马、制造火器及战车。这种和其他军镇的不平等待遇，惹来了大量的反感。接着又有一连串的矛盾跟着产生，诸如北兵和南兵的磨擦、军职的继承者和其他出身者的争执、因循守旧和锐意革新的冲突。张居正了然于这些情况，在他写给谭、戚两个人的私人信件里，再三叮咛他们务必谦恭退让，不要居功自傲。他警告戚继光说，“北人积愤于南兵久矣”，他们“多方罗致，务在挫辱之”，所以“务从谦抑，毋自启侮”。有一次蒙古部队打算犯边，就在战事一触即发之际，俺答却放弃了原来的企图，下令掉头北撤。这一出人意外的事件，在张居正看来完全是由于谭、戚二人部署有方，才使俺答踌躇不前；然而邻近的两镇却把功劳据为己有。张居正虽然认为这种冒功邀赏可笑而且可耻，但是他却通知谭纶，他已经以皇帝的名义承认了这两镇的自我吹嘘。他也不让兵部查清事情的真相，以免纠缠争辩。他要求谭纶在奏折中不仅不要争功，反而要把功劳归于其他二镇，使他们“嚼舌愧死”。
张居正这种做法，表面上是损已益人，具有大政治家的风度；但是仔细研究，却仍是有明有阳，无助于矛盾的根本解决。那怕是谭、戚二人表现出无以复加的谦抑，各镇之间的利害关系也决不能因此冰消瓦解。因之内阁愈想公正平衡，旁人看来则在一明一暗之间有亲有疏，褊袒更多。以后反对张居正的人认为蓟州练兵是他培植私人的政治资本，也就毫不足怪了。
1577年谭纶病死，从此张居正和戚继光的关系更为密切。第二年张居正返江陵葬父，他还生怕这短期的离职引起戚继光的不安，所以特地私下通知戚继光，接任蓟辽总督的将是梁梦龙。信上说：“孤之此行，甚非获己。到家事完，即星夜赴闽矣。蓟事已托之鸣泉公，渠乃孤之门生，最厚；谅不相负。”梁梦龙字鸣泉，在翰林院与张居正有师生之谊。他在万历一朝的事业，也赖张居正的提拔为多。张居正这样倾肠相告，自然使戚继光更加感恩戴德。是以首席大学士的江陵之行，戚继光派出了一整连的鸟铳手作为护卫，张居正选择了其中6名随行，作为象征式的仪仗，同时也表示了首辅和蓟州戚帅关系之密切。兹事前后，蓟州总兵官的传骑携带各种文件和信件不断来往于首辅私邸，这更使他们的反对者在日后清算张居正的时候，有所借口，甚至指斥他们图谋不轨了。