隋末,贼寇王薄等犯山东,隋将张须陀率军击之,罗士信时年十四岁,投军,为须陀所轻。罗士信遂披重甲上马操练,这才得以从军。在随后的战斗中,罗士信一马当先,所向披靡,贼军大败。之后罗士信每杀一敌,必割其鼻,以环穿之,代替首级。张须陀被罗士信的武勇折服,将自己的马奖给了他。之后张须陀、罗士信互相合作,连战连捷。
后张须陀中李密之计,兵败战死,罗士信归顺瓦岗寨。在与王世充的战斗中重伤被俘,被王世充收为部下。王世充初待士信极厚,但后来稍有减少,罗士信不满,于是率部转投李唐,被任命为绛州总管,封郯国公,率军对抗王世充。
罗士信不仅作战勇猛,而且赏罚分明,治军极严,在谋略方面也并不是一窍不通,曾设计智取洛阳的外围据点千金堡。洛阳平定后,罗士信为当初提拔自己的老上级裴仁基发丧,葬于邙山以北,并说:“我死后,愿葬于裴将军之旁。”
后随秦王攻刘黑闼,得一城,先是唐将王君廓守,刘黑闼军猛攻,王君廓不敌,罗士信自请入城代替王君廓。入城后,敌军攻打更急,四面围困,断绝了唐援军。最终城破,罗士信被俘,刘黑闼欲说降罗士信,士信不从,遂被杀,年二十八。秦王闻罗士信死,很是伤感,重金购得其尸,葬于裴仁基墓之侧。