新三板原本是业界对“中关村科技园区非上市股份有限公司代办股份报价转让系统”的俗称。2006年初，为了给高科技成长型企业提供更多股份交易的机会，这一系统在北京中关村科技园区建立。

在证券市场中，沪深两市主板及深市中小板常被称为一板市场;2009年10月开市的深交所创业板则被称为二板市场。这两个市场因为都在交易所内交易，所以又被称为场内交易。

而在交易所场外进行交易的市场就被称为三板市场。

在中国，三板市场的发展甚至早于二板市场。

早期的老三板市场是2001年7月16日成立的“代办股份转让系统”，主要是接纳从沪深交易所退市的公司和曾经在STAQ和NET两个法人股流通市场挂牌的公司股份。

2006年国务院启动中关村科技园区未上市高新技术企业进入证券公司代办股份转让系统进行股份转让试点工作。这一代办股份转让系统正式被称作新三板。截至2010年底，在代办股份转让系统挂牌的公司有75家，股票58只，投资者开户数12万人，市值83亿元人民币

2012年8月3日，证监会将能在新三板转让股份的公司范围从仅限于北京中关村科技园区扩增到上海张江高新技术产业开发区、湖北东湖新技术产业开发区和天津滨海高新区。2013年1月16日，全国中小企业股份转让系统揭牌，新三板由全国中小企业股份转让系统有限责任公司来运营。

2013年12月14日，国务院正式宣布将在新三板挂牌企业的范围扩大到全国所有企业。至此，全国中小企业股份转让系统正式与上交所、深交所一起组成三大全国性证券交易场所。

随后新三板发展势头迅猛。2014年1月24日，新三板一次性挂牌285家，并累计达到621家挂牌企业。截至2015年3月20日，新三板挂牌公司数为2131家，超过了沪、深任何一个交易所的上市公司数。

如此快的挂牌速度源于新三板为挂牌企业设置了相对“友好”的挂牌门槛。与沪深交易所相比，在新三板挂牌的硬性条件基本上只有两个：一是企业依法设立且存续(存在并持续)满两年;二是组织架构和财务规范符合股份有限公司的要求。尤其是对企业挂牌前的盈利情况没有要求。

不过，新三板对投资者的账户开设设置的门槛较高，个人新三板开户需要两年以上证券投资经验，投资者本人名下前一交易日日终证券类资产市值在500万元人民币以上。机构新三板开户注册资本需要在500万元人民币以上，相比于主板、中小板以及创业板，门槛高了很多。这决定了在目前的门槛下，一般只有专业投资者参与这个市场。