他出生于山东省济南市商河县小街子村，自幼家境贫寒。1910年入读山东陆军小学，1917年考入保定陆军军官学校第六期步兵科。毕业后，他被派往北洋军阀湖北陆军第二师第二十一混成旅任排长。在随孙传芳的部队征战期间，他曾在福建、浙江等地担任参谋和宪兵营长。
1925年春，奉系军阀向东南扩张，孙传芳感到威胁，并联络冯玉祥国民军反奉。同年11月，上官云相受命率部与奉军激战，在安徽固镇地区取得了胜利，俘获了白俄雇佣军前敌总指挥施从滨。此后，他更得孙传芳的器重，被升为第七师第十三旅旅长。
1926年9月，当国民軍北伐江西时，上官云相率部抗击，但最终因孙传芳大败而逃至江北。在蒋介石的劝说下，孙传芳决定倒戈并共同北伐。但由于政治立场和个人野心的冲突，最终未能实现这一目标。
1931年起，上官云相历经多次对中国工农红軍“围剿”，包括第一次、第二次及第三次“围剿”。在这段时间里，他先后担任过第九军总司令兼第四十七师师长，以及豫鄂皖边区绥靖主任等职务。
抗日战争爆发后，上官云相加入抗日阵营，并参与了淞沪会战。他曾任第三十二集团军总司令，对新四軍进行追堵，并参与了皖南事变，这一事件是对新四軍的一次重大围剿行动之一。
1940年的皖南事变中，上官云相负责指挥对新四軍的作战，但他一直隐瞒新四軍实际路线，不愿意承认他们可能选择通过苏南渡江到达无为地区的事实。这一策略使得上官云相能够将责任推给不明情节的人员，同时也为自己留下了一条退路，以防情况失控。
标签： 历史知识竞赛题库900题 、 十大必看名人传记书 、 人物故事一百字左右 、 敬佩的历史人物作文 、 欧洲史纪录片bbc
