北周的法律既残酷又混乱，“内外恐怖，人不自安”。隋朝建立后，针对北周刑法繁杂苛酷的情况，开皇元年（581 年）隋文帝下令命高颎、郑译、杨素、裴政等人，于北魏、北周旧律的基础上改定新律，制定并颁布《开皇律》。

开皇三年（583 年），隋文帝鉴于“律令初行，人未知禁，故犯法者众”b。“律尚严密，故人多陷罪，每年断狱，犹至万数”等情况，认为这是法律还过于严密苛刻，以致人们稍一不慎，即身陷法网。于是，特敕命苏威、牛弘修改新律，删除苛酷条文，重新修订《开皇律》。 

《开皇律》共十二篇：“一曰名例，二曰卫禁，三曰职制，四曰户婚，五曰厩库，六曰擅兴，七曰贼盗，八曰斗讼，九曰诈伪，十曰杂律，十一曰捕亡，十二曰断狱。”《开皇律》保持了官民有别的法则，规定官员享有一定程度的法律特权，凡属于议亲、议故、议贤、议能、议功、议贵、议勤、议宾等“八议”范围的人，以及七品以上的官员，犯法皆减一等治罪；九品以上官员犯罪，允许以铜赎罪，同时也可以用官品抵挡徒刑和流刑，以维护贵族官僚地主的特权。由于废除了宫刑、车裂、枭首、灭族等残酷刑法，简化了律文，共保留了律令 500 条。并把刑罚分为死刑、流刑、徒刑、杖刑、笞刑五种，并大幅度减轻了流刑、徒刑的惩罚程度，并规定死刑须经“三奏”才能处决。如《隋书·刑法志》，（开皇）十五年制，死罪者三奏而决。这种对犯人处置采取审慎态度，而不是草菅人命，有效地防止了冤案的发生，成为唐朝及其后世立法的基础。

隋炀帝继位之后，“以高祖禁网深刻，又敕修律令，除十恶之条。凡五百条，为十八篇。五刑之内，降从轻典者，二百余条。诏施行之，谓之《大业律》。”d 大业三年（607年），编成《大业律》新律，主要对隋文帝末年比较严酷的法律进行了改革。新修定的《大业律》共有 18 篇，从表面上看比《开皇律》要有所轻缓，“其五刑之内降从轻典者二百余条，其枷杖决罚讯囚之制，并轻于旧。”同时废止了将十恶单独列目规定的做法，并将十恶删去两条，唯存其八，且分隶各条。但是，隋炀帝立法之后的实际情况却是“征役繁兴，民不堪命，有司临时迫胁，以求济事，不复用律令矣”。这部法律的实际执行效果并不理想。