人类还在远古的时候，就有了一种自然产生的神灵崇拜的倾向。他们把一切自己不能理解，不能解释的现象都作为神灵加以供奉。比如，一棵树特别高大古老，人们就以为它能够庇佑一方；一块石头形状奇特古怪，人们就认为它能够镇邪消灾；河水泛滥，人们就以为是河神发怒；五谷丰登，人们就认为是神赐福……神灵崇拜是世界各民族共同有过的原始思维，在中国就发展成为神仙信仰。人们在古时候很相信在西方昆仑山上和东海之外的蓬莱三岛上，住着一批长生不死、逍遥自在的神仙。他们饮琼浆，吸甘露，食玉屑，服灵芝，住的是黄金宫殿，观的是奇花异草，他们风姿绰约，享受无期……总之，一切令世人梦寐以求的东西，他们都拥有了。这当然不是实事，但这种独特的文化却影响了无数代人的生活。人们渴望接近仙人，但必须要通过一些被称作方士的人去请求，仙人才肯与凡人相见。传说方士都有一定的法术，他们有的是经过多年修炼，有的是经过仙人指点，所以他们本身就是世外高人。

从东汉开始，一些方士将原来飘缈的神仙信仰加以发展，形成了系统的理论和法术体系。最大的变化在于，他们宣称：天地有道，我命在我。意思是说，成仙之道是有的，但在靠自己去寻找。他们认为，追求现实之乐是天经地义的事情。道教修炼虽然有很高要求，但最基本的是循道养德。这就应该排除尘世俗务，正心诚意。因而最实的修炼者大都隐居深山老林，结草为庐，采果为食，仅求避风雨度饥寒而已。

山中修炼者的茅草屋，便是后来宫观的前身。

宫，原本只是指宫殿。观，原本只是指城楼上可供登高眺望的堞楼。宫观也就是指宫廷之类的高大建筑群。由于这些建筑有些是为迎神请仙而建造的，所以宫观往往与朝廷的祭祀有关。山中隐居修炼的茅草屋，与宫、观之类的高大建筑本没有什么关系，它只是配合少量仪式，主要供静思、反省、斋戒、修行的场所，一般直接称呼为茅室、草屋，也有些称靖室、静室。据道书说，对这类茅草屋、靖室，也只要求独立不相连，清静无杂物，屋中也仅供奉香炉、香灯、章案、书刀四件而已，很像书房。

东汉后期，随着道教的形成，很多信奉道教的人都在家里设置了这样的靖室。后来地区性的道教组织出现，有些靖室发展为中心活动场所，便改称治、馆，以与实施设置的个人使用的靖室有所区别。

南北朝时，道教有了很大的发展，治、馆这类场所斋醮之类的仪式法事增多，也逐渐由民办转为官办，不少由深山迁入城市，成为修道、祀神、藏道经的专门场所，而这些场所往往修筑有专用的高坛和塑造了较多的神像，也有较多的讲道传戒活动，所以称治称馆者越来越多。在这一时期道教已成熟，道观群起成为当时迫切的需要。于是道教宫观在此情况下建立，形成第一次高潮。这一时期出现了道观，无论从哪一方面来看都更加正规。
隋唐时期道教的醮仪道场与宫廷的祭祀逐步合而为一，治、馆也因此而升格。宫观在这时候就成了道教场所的正式名称。隋唐时期建立的道观，既多且大，与原始神祠的种种联系逐渐疏远。北京白云观、湖南衡阳九仙观、福建崇安武夷宫等现存的这些著名道观，都是建立在此时。这个时期道观的规模、建筑艺术，都达到了一定的高度。

宋元时期，道教最为兴盛，宫观的建立有了更大的发展、更大的规格与更严的制度。这时出现的宫观，其规格，布局都有了定式。山西芮城永乐宫、河南开封延庆观、陕西长安太乙宫、云南昆明三清阁，都是这个时期兴起的著名的宫观。尤其是山东青岛峻山道教建筑的出现，更为此时兴建的道观增添了光彩。

明朝时期，道观建筑最为兴盛。现存的许多宫观都是这个时期建立的，较为著名的有天津玉皇阁、宁夏平罗玉皇阁、湖北江陵太晕观、湖南长沙云麓宫以及武当山道教建筑群的兴起，都是这个时期的辉煌成就。

清末以后，道观的建筑出现停顿状态。