20岁那年，军人出身的父亲为了让儿子继承父业，把土肥原送进了日本陆军士官学校。土肥原成为陆军士官学校第16期生。
日本陆军士官学校曾为日本培养出无数侵略战争的“精英”。在这里，土肥原与后来侵华战争期间的元凶冈村宁茨和坂垣征四郎成为同窗好友。
1904年，土肥原毕业于陆军士官学校，被授予陆军少尉军衔，供职于高崎步兵第15联队。
