我国投资银行业是伴随着资本市场的发展而产生的。改革开放以前，中国没有资本市场，当然更谈不上投资银行。20世纪80年代末，随着我国资本市场的产生和证券流通市场的开放，产生了一批以证券公司为主要形式的投资银行、商业银行以及保险公司。
改革开放以来，我国国民经济持续快速增长，经济总量已位于世界前列，2004年我国国内生产总值达到13.7万亿元，国家外汇储备达到6 099亿美元，城乡居民储蓄存款达到12.6万亿元，占当年国内生产总值的92%。与此同时，我国国债及企业债券规模达到7 251亿元，股票市场流通市值为11 688亿元，占GDP的比率为8.6%，该比率最高时曾达到18%。1993—2004年，城乡居民储蓄存款占GDP的比率年均69%，而同期股票市场流通市值占GDP的比率为年均8.3%。可见由于种种原因，人们并没有有效实现财富的保值增值，尚有巨大的潜力可挖掘。
尽管受到分业经营体制的约束，但国内各商业银行并没有放弃参与投资银行业务的努力。中国建设银行1994年与美国投资银行摩根士丹利等机构合资创办了中国境内首家中外合资投资银行机构——中国国际金融公司；中国银行于1998 年在香港成立了全资附属区域性投资银行——中银国际控股有限公司；中国工商银行以及股份制商业银行也在积极参与，如招商银行积极推进投资银行业务；金融监管当局也制定了一些相关政策，如央行颁布了商业银行中间业务暂行规定，鼓励商业银行开展投资银行业务。
