杨坚几经危险，心中不安。为了逃避周宣帝对自己的猜疑，他就想出了一个两全之策。他通过老同学、内史上大夫郑译透露自己想到地方上任职的想法。北周大象二年（公元580年），宣帝决定南伐，郑译就推荐了杨坚，宣帝随即同意，任命杨坚为扬州总管。这样，不仅宇文赟放心，杨坚自己也安定了。
不过，南伐大军还没有出动，荒淫的宣帝就病死了。而宣帝的长子宇文阐才8岁，根本没有能力统治朝廷。杨坚在侍臣刘昉、内史上大夫郑译的帮助下，伪造了周宣帝的遗诏，以皇太后父亲的身份辅政。之后，杨坚又以诏书的名义控制了京师卫戍部队，由此，北周朝廷的军政大权基本由杨坚控制。
为了巩固自己掌控的军政大权，杨坚采取了一系列的措施。首先，他拉拢了一帮真正具有政治才能的人作为亲信，拒绝了扶持他上位的刘昉、郑译等人共掌朝政的要求，设立丞相府，自任丞相，把这些人置于自己的控制之下。这些亲信们为日后杨坚夺取北周政权奠定了重要基础。
建立了自己的统治核心后，杨坚开始清除宗室宇文氏的势力。对危及自己权力的宇文氏子弟，杨坚毫不手软，宇文泰的五个有实力的儿子被杀掉。对于没有直接威胁的宇文氏势力，杨坚采取安抚与欺骗的手段使其屈服。如位居上柱国、右大丞相的宇文赞被杨坚劝回家。