舰队司令）纷纷被选为苏共候补委员。斯大林此举是有意提高军队的地位，提拔一批年轻将领。
随着地位的不断提升，朱可夫的讲话越来越多地出现在报纸上。2月23日，他发表了一篇文章，与以往总参谋长只谈好话不同，他明确指出了军队的不足——缺乏训练、墨守成规。
对于本职工作，朱可夫从来不敢懈怠。自担任总参谋长以后，他每天的工作都在15小时以上。不过他并不会事必躬亲，而是在熟悉业务的同时，也找到了可以委以重任的人选。他认定瓦杜丁和华西列夫斯基是名副其实的人才，于是大胆启用他们，把很多重要事务交给他们去办，自己则把精力投入到全局性工作中。
根据分工，总参谋部直接归国防委员铁木辛哥领导。两个人都非常重视组建坦克兵团的工作，自1940年苏军恢复已经解散的机械化军后，组建坦克师、摩托化师的工作虽有进展，但远达不到战争的需要。斯大林对这件事颇有些为难。3月，他同意朱可夫提出的组建20个机械化军的方案，可苏联的军工生产任务繁重，无法在短期拿出所需的3.2万辆坦克。
朱可夫和第一副总参谋长瓦杜丁找到了铁木辛哥，一再强调组建机械化军的紧迫性。铁木辛哥沉默片刻，他坦言目前是非常时期，各个方面都在伸手要装备，如果要解决这个问题，就必须直接跟斯大林谈。不久他为朱可夫争取了一次面见斯大林的机会，但时间只有10分钟。
会面安排在一个星期六的晚上，位于斯大林在郊外的别墅，在场的还有铁木辛哥、库利克和莫洛托夫。朱可夫挑最紧要的内容向斯大林做了陈述，一贯主张跟德国保持友好关系的莫洛托夫有些不快，质问朱可夫：“你认为我们很快要同德国人打仗吗？”斯大林打断了莫洛托夫的话，示意让朱可夫把话说完。
当晚斯大林留下朱可夫共进晚餐，并在餐桌上继续讨论。斯大林谈到了空军，朱可夫认为德国空军非常强大，而苏军虽然新式飞机的性能超过德军，但数量太少。斯大林最后告诉他，很多问题都在逐步落实，现在不要空想暂时还得不到的物质东西。
朱可夫虽然没有得到想要的结果，但斯大林的态度还是让他很欣慰。
种种迹象表明，德国即将对苏联采取军事行动。1941年4月，朱可夫向苏军各部门和各集团军发出警告：“整个3月和4月，德军统帅部都一直紧张地把部队从西线和德国中部调到邻接苏联边境的地区。”可此时苏联边界线上修建筑垒地域和野战阵地的工程还没有完工，很多地段才刚刚开始；本应修建更多的机场、建立更多的交通和通信枢纽也没能按期完成；铁路宽轨虽然已经延伸到新边境线，但运输能力依然很低。
在这段时间，朱可夫率领总参谋部制定了新的保卫苏联西部边境的详细计划。其中规定了每个集团军负责的地段，第一梯队每个师负责的防线。同时为每个集团军的第二梯队配备了一个机械化军。第一梯队的任务是打退敌人的进攻，第二梯队则是消灭一切突破边境防线的敌人。
在制定计划时，他发现波罗的海沿岸军区、西部军区、基辅军区和敖德萨军区都存在现有兵力不足以抵御德军突击的问题。他向斯大林请示，无论如何应该在5月前从内地军区动员若干个集团军，加强给西部几个边境军区。但斯大林担心会刺激希特勒，提供德国发动战争的借口，所以回绝了。
朱可夫不甘心，又提出以野营集训的名义向乌克兰和白俄罗斯各增调两个集团军。斯大林同意了这个方案，但再三叮嘱朱可夫要谨慎行事，采取必要的伪装措施。5月底，上述部队陆续抵达预定地域，共4个集团军28个师。不过这些部队普遍缺编，且没有完全配备编制规定的技术兵器。
5月中旬，总参谋部又制定了一个补充作战计划，规定边境地区的40个师担负的作战任务是迟滞敌军进攻速度，掩护全国主力的动员和战略集中。主力在边境线100~140公里处展开，以机动防御尽量长久迟滞敌人的进攻。在两道防线之间，防御部队可以用设置障碍、炸毁桥梁和小股部队伏击的方式减缓敌军的推进。
朱可夫和伏罗希洛夫还商定，把更多的技术装备和物资输送到更靠近前沿的地区储备，以便一线部队可以就近获得补充。
从战争初期的进程来看。朱可夫的这个决定是错误的。德军迅速突破苏联边境，夺取了各军区的物资储备区，给后续作战补给和预备役组建都造成了巨大困难。朱可夫后来也承认，包括他本人在内的苏军高层没有预料到德军会一下子发动那样大规模的进攻。他原本预计战争最初的一段时间，主要交战地区会是苏联边境，总参谋部制定的作战计划也是按照这个假设编制的，但结果已经无需多言。
在苏军高层中，对战争的紧迫性感受最强烈的是铁木辛哥和朱可夫，但斯大林并不认同他们的看法。1941年6月14日，柏林的帝国大厦内，德军统帅部正在讨论巴巴罗萨计划的具体细节，空军司令戈林乐观地表示：“元首将带领德国走向胜利，就像在西