杨士奇以布衣身份进入翰林院,充当了编纂官。不久,吏部尚书张紞考察编纂工作,发现杨士奇是个难得的人才,便将其提拔为吴王府审理副。朱棣经过靖难之役登上了皇帝的宝座,为了保证政局的稳定,将杨士奇等人由翰林院选入内阁,参与国家的大政方针,同时杨士奇被晋升为翰林院侍讲,正式开始了从政的生涯。永乐二年(1404),机遇再次光顾了杨士奇,朱棣选拔他为辅助皇太子的官僚,于是他和后来的皇帝朱高炽结下了难得的师友之缘。不久,杨士奇晋升为左中允(正六品官)。永乐五年再次升任左谕德(从五品官),辅助左春坊大学士承担太子的文件往还及学习的有关事务,同时兼任翰林院侍讲,承担为皇帝讲读经史的任务。
杨士奇与仁宗皇帝关系极为融洽。朱高炽特地赐给杨士奇及杨荣、金幼孜和夏原吉每人一颗银印,上刻“绳愆纠缪”的格言。杨士奇可以用此印密奏关于贵族甚至皇族胡作非为的案件,拥有了皇帝赐予的特权,对于及时有效地揭露贪污腐化、改善政治风气起到至关重要的作用。