長野県小県郡殿戸村（現・青木村）に農業を営む小林菊右衛門・寿ゑ夫妻の二男として生まれる[1]。幼少時分はガキ大将であったが、弱い者いじめはしなかった。1893年に青木尋常小学校（現・青木村立青木小学校）、1895年に浦里尋常小学校高等科（現・上田市立浦里小学校）を卒業[1]。父は製糸業などに手を出し失敗していたため、家計は苦しかったが、慶太の志は高く、父を説得して長野県尋常中学校上田支校（現・長野県上田高等学校）に入学した。青木村の自宅から徒歩で片道2時間かけて通学した。中学の3年を終えると、長野県尋常中学校松本本校（現・長野県松本深志高等学校）に親友大井新次郎（後の多摩川園長）とともに松本の知人の家に下宿しながら通学し、4年・5年を修了した[1][2][注釈 1]。

慶太はさらに上級学校への進学を夢見たが、経済的理由から進学を断念して青木小学校の代用教員となる。慶太の向学心は強く、1902年（明治35年）の夏に上京して東京高等商業学校を受験するが、英語で失敗し不合格[要出典]。1903年に学費が不要な東京高等師範学校に合格し、代用教員を辞して英文科へ進学した

1907年（明治40年）9月に東京帝国大学政治学科の選科に入学する。10月に旧制第一高等学校の卒業資格試験に合格して法学部本科に転学した。再び学資に窮し、東京高師の校長で在学中に世話になった嘉納の紹介を得て、富井政章男爵の子息の家庭教師として居候する。富井の子息の第二高等学校進学が決まると、次は富井の紹介で加藤高明の子息加藤厚太郎の家庭教師として加藤邸に居候する。

1911年（明治44年）、東京帝国大学を卒業する時はすでに29歳であったが、高等文官試験に合格し、加藤高明の斡旋で農商務省に入省。工場法施行に伴い、工場監督官に採用されるが、施行が3年延期になったため、鉄道院に移った。