隋文帝灭北周后，开始仍以北周都城长安为都。此处城池是西汉旧都，至隋朝建立已经八百年沧桑，中间虽经前赵、前秦、后秦、西魏、北周几代稍加修缮，但终因年代久远以及战争的破坏而失去昔日的光彩。其制度狭小，不足以显示强大隋朝的国力，而旧城周围的水质咸卤又不甚宜人。开皇二年(582年)六月，隋文帝下诏于城东南二十余里的龙首原处创建新都，派高熲、宇文恺等人领其事。到第二年三月，新都初具规模，称为大兴城，是因为隋文帝初封大兴公的原因。隋大业九年(613年)，开始役使十多万人修筑外郭城，就此划定了大兴城的范围。
大兴城规模浩大，布局齐整，设计上借鉴了北魏都城洛阳和东魏、北齐都城邺城的合理之处，并巧 妙地利用龙首原以南平坦中富于变化的地势，将宫城安排在最北面，皇城拱卫其南，外侧再环绕郭城。宫城内的主要建筑是大兴宫。百官衙署都庥中于皇城，［宋］宋敏求《长安志》言：“自西汉以后至于晋、齐、梁、陈，并有人家在宫阙之间，隋文帝以为不便于民，于是皇城之内惟列府寺，不使杂人居止，公私有便，风俗齐肃，实隋文新意也。”郭城内有南北、东西向的笔直街道，将城内划分为一百零八坊，以中轴线上的朱雀大街为界，东属大兴县，西属长安县。坊内主要是民居，并有王府、寺观等。城内有两市，东称都会，西称利人，是商业和手工业的集中地。龙首、永安、清明三条水渠分别自城东、城南引水入城，解决了都市的用水。［宋］吕大防《长安志图》云：“隋氏设都，虽不能尽循先王之法，然畦分棋布，闾巷皆中绳墨。……而朝廷、宫寺、门居、市区，不复相参，亦一代之精制也。”隋大兴城的规划和布局充分体现了统治者的理想和要求，同时也反映了设计者和建设者的聪明才智。
武德元年(618年)，唐王朝建立，将大兴城改名为长安城，又称京师，做为都城。在不改变原格局的基础上，对长安城进行了一些增建和加固工程。唐贞观八年(634年)，在城东北的禁苑内建永安宫，为太上皇清暑用，次年改名为大明宫。显庆五年(660年)，武则天始参与朝政，龙朔三年(663年)迁大明宫听政，此后大明宫成为唐代主要的朝会之所。
玄宗继位后，于开元二年(714年)因藩邸置宫，这就是兴庆宫。十四年扩建兴庆宫置朝堂，十六年竣工，玄宗就在这里听政。
除两处宫殿区外，高宗时曾两次征发丁壮重筑外郭城。玄宗时修建了自兴庆宫北至大明宫，南至芙蓉园、曲江池的夹城，以便皇帝往来潜行。
经隋唐两代的兴建，长安城成为当时世界上最负盛名的大都市。各地的商贾和珍奇货物云集于长安，刺激了经济的繁荣发展。除商人外，当时居住在长安的外国人还有僧侣、留学生、艺人、工匠等，他们是文化的使者，为促进中外文化的交流做出了积极的贡献。
长安城是一座以里坊制为特点的封闭型的城市，它的建制不但影响了隋唐的东都洛阳以及地方城市，甚至影响到当时日本的都城，如建于八世纪初的平城京，就在很大程度上模仿了长安城的建制。
后来对隋唐都进行了系统的考古勘探和发掘，探明了城墙、城门、街道、里坊的位置，发掘了明德门，大明宫含元殿和麟德殿，以及青龙寺等重要遣址。
郭城西长9721米，南北长86517米，周长367公里，城每面开三门。明德门是南城墙正中的城门，门址长555米，有并列的五个门道，每个门道宽5米。其余城门都是一门三道。
城内有南北向大街11条，东西向街道14条，主要街道的宽度均在百米以上，明德门内的朱雀大街宽达150至155米。
含元殿是大明宫的正殿，建立在高台之上，登临含元殿可以俯瞰长安城。殿址现高于地面15米，东西长759米，南北长413米，面阔11间，进深四间。殿前两侧建有翔鸾、栖凤两阁，两阁与大殿以廓庑相连接，形成回护、烘托主殿的气势。殿前有三条长75米的阶道，自地面直升大殿，称龙尾道。从龙尾道前端仰视，含元殿就像建于天上云端，格外富丽庄严。麟德殿是大明宫内另一处重要殿堂，位于大明宫西部，是宴会的场所。麟德殿由毗连的前、中、后三殿组成，中殿左右各建一亭，后殿两侧各有一楼，周围绕以回廓，气势宏伟。大明宫内还发现清理奉祀道教的建筑三清殿等。
青龙寺坐落于长安城东南的乐游原上，隋称灵感寺。青龙寺遗址面积东西长500余米，南北宽260米，发现了两座并列的院落，其中有塔、殿及回廊等建筑。盛唐以后，青龙寺是佛教密宗的主要道场，日本、新罗来长安留学的僧人多在青龙寺学习密教。