1974年01月—1975年11月，在呼和浩特市农林局政工科工作。
1975年12月—1979年12月，任呼和浩特市国营畜禽场副书记、厂长。
1980年01月—1982年12月，在呼和浩特市奶牛公司招待所工作。
1983年01月—1993年05月，任呼和浩特市回民奶食品厂厂长。
1993年05月—2001年12月，任内蒙古伊利实业集团股份有限公司董事长，党委书记兼总裁。
2002年—2004年12月，任内蒙古伊利实业集团股份有限公司董事长，党委书记兼CEO。
2004年12月，因涉嫌挪用公款罪入狱。
2005年12月31日，被判刑6年。
2008年9月，因在服刑期间表现良好获得两次减刑机会，郑俊怀刑满释放 。
2011年，加入黑龙江红星集团食品有限公司。
2015年1月，任黑龙江红星集团食品有限公司董事长。
2019年11月，再度入狱。