布琼尼元帅负责的西南方向战况也不妙：1941年7月，德国“南方”集团军群直奔乌克兰首府基辅，企图对苏军实施战略包围。9月11日，因力主放弃基辅而与最高统帅意见相左，布琼尼被撤去西南方向总指挥职务(由铁木辛哥元帅接任)，改任预备队方面军司令。19日，基辅会战结束，苏西南方面军的4个集团军被德国“南方”与“北方”两个重兵集团围歼，方面军军委会三名成员——司令基尔波诺斯上将、政委布尔米斯坚科(苏共乌克兰中央书记)、参谋长图皮科夫少将战死，66.5万官兵被俘，损失火炮3718门、坦克884辆。布琼尼、铁木辛哥、赫鲁晓夫在城市陷落前及时飞离，才免于成为德军俘虏。
1941年10月，朱可夫大将被任命为西方方面军司令时曾同斯大林作过一次谈话。他后来回忆道：“斯大林焦躁不安，怒气冲冲。他一方面同我谈话，一方面愤怒地斥责西方方面军和布良斯克方面军司令科涅夫和叶廖缅科，但一句也没提到预备队方面军司令布琼尼。看来，他认为已经不能够要这个人负什么责任了。”
1942年4月，布琼尼元帅被任命为新成立的北高加索方向总指挥部总指挥。5月28日，因指挥克里木登陆作战失败，该指挥部被撤销。布琼尼调任北高加索方面军司令。此后便没有在前线露面了。1943年1月，布琼尼任红军骑兵司令和国防人民委员会最高军事委员会委员，至战争结束。