1979年，聂荣臻提名杨成武接任军委总参谋长，邓小平却摇头否定。这一年的职务空缺让聂荣臻提出推荐这位老将军，毕竟杨成武资历深厚，还在1954年任过副总参谋长。聂荣臻认为他工作能力出众，飞夺泸定桥的战功与抗战、解放战争的经历更是彰显了他的能力。可是邓小平否决了这个提议。其实邓小平太了解杨成武了，早在1977年，两人在工作上就有了深入交流。邓小平让杨成武去福州军区担任司令员一职，亲自接见并鼓励他打击国民党和美国的威胁。杨成武感动于邓小平的信任，也了解到这位领导者的战略眼光。 邓小平知道杨成武在军事领域很有天赋，但处理事务时不够灵活。考虑到军委总参谋长需要统筹协调各项事务，这个职位对他来说并不合适。杨成武也没有反对意见，他在福州军区任上表现优异，为国家做出了贡献。1983年，中央安排他担任全国政协副主席负责文史资料工作时，他全力以赴投入其中。他常常在办公室过夜夜不归宿地查询和研究资料的真实性和完整性。 1988年被授予一级红星勋章时杨成武感到非常荣幸。到了2004年这个年头上，杨成武因病逝世于北京心脏永远停止跳动享年90岁。