太原城的战役是在裴世清进入太原城三天后打响，但并没有李元吉在给父亲信中说得那样惨烈，事实上他只是为了催促父亲赶紧派援兵而夸大了战况，自从杨元庆率领近十万大军抵达了太原城以来，已经十天过去，这十天中只发生了一次战役：杨元庆亲自率军再次攻占晋阳宫，仅用半天时间，便击溃了守晋阳宫的五千守军，守将孙达阵亡。
或许在李元吉眼中，这场战役便可称为惨烈。
拿下太原城是杨元庆整个河东棋局中的核心，其他太原以南各郡对他来说现在并不重要，他没有这么多兵力去分散争夺，杨元庆收回了所有的兵力，除了苏定方率五千骑兵留在河东郡牵制唐军的第二路援军，以及崔破军率五千军镇守霍邑县，其余军队全部集中攻打太原城。
太原城在年初防御刘武周时，在城下挖了两道深深宽达一丈的壕沟，包括护城河，一共是三道防御线，太原守军在壕沟对面进行外围防御，但在刘武周军队近两个月的进攻中，这些壕沟上都修建木桥，而东西两侧的护城河也被刘武周军队用泥土填平，但刘武周最终没有能攻下太原城，而他所做的努力却成全了杨元庆。
东西两城外，军旗遮天蔽日，营帐各延绵数里，丰州大军抵达太原已经是第十天，却一直没有发动对太原城的攻击，或许是他们没有攻城武器的缘故，刘武周留下的攻城武器都被太原守军摧毁，而丰州隋军似乎还没有来得及制作云梯、攻城槌等武器，他们是空手而来，这又给了太原守军一线希望。
丰州隋军似乎并不着急，他们不慌不忙进行着攻城的准备，一队队军马在城外奔驰，在远处，一辆辆马车运来了又长又直的巨木，这是从十几里外榆次县运来的杉树巨木，在那里隋军找到了一片茂密的杉树林，采集到了数千根高达五六丈的巨木，利用这些长而笔直的巨木，丰州军可以制造一种简单而有效的攻城武器——排梯，那是突厥军给们留下的深刻启示，当这种宽达数丈的排梯钩住城池，军队可以成群结队地冲上城头。
城头上，齐国公李元吉骑马在东城墙上查看丰州隋军的攻城准备，此时他已经没有了平时的飞扬跋扈，也没有了平时的傲慢，眼中带着一丝难以掩饰的恐惧，尤其当他听说支援他的两万精兵被杨元庆全歼时，他感到了孤立无援，仿佛整个河东都已失陷，只剩下太原一座孤城。
李元吉没有经历过战争，没有一点守城的经验，面对强势而来的丰州隋军，他心中充满了对死亡的恐惧，他不止一次写信给他父亲，请求父亲准许他放弃太原城，请求父亲更换守将，但他只等到了父亲一次又一次的责骂。
在李元吉身后站着一班李渊留下来来辅佐他的幕僚和官员，副留守夏侯端，太原留守府长史窦诞、司马刘德威，录事参军宇文歆，卫尉寺少卿刘政会、太原郡太守王绪，以及数十名大将。
面对丰州军即将发动的攻势，每个人的心中都心情复杂，他们都很清楚，丰州军不是乱匪，杨元庆不是刘武周，他就是坚守城池而闻名于天下，擅于守城者又焉能不善攻城？
“齐公，杨元庆远道而来，他们没有准备攻城武器，他们现在在临时制作武器，不足为虑，而我们却有充分的准备，仅投石机就有一百二十架，足以将杨元庆的军队砸成肉泥，齐公不必担心，太原城我们一定守得住！”
劝说李元吉的人是副留守夏侯端，他是李渊好友，也是李元吉的长辈，他负责指挥整个城池的防御，夏侯端也收到了李渊给他的信，信中命他看好李元吉，不准元吉弃城逃跑。
夏侯端很清楚李元吉的心思，他是被城中的各种谣言给吓怕了，被杨元庆的十万大军吓破了胆，元吉毕竟年轻，没有经历过战争，没有一点经验，突然让他承担镇守太原的重任，