秋田県平鹿郡大森村（のち大森町、現・横手市）に近藤正治・みつ夫妻の長男として生まれる。太郎の祖父母にあたる山下太惣吉・ひさ夫妻の養子となり、山下姓を名乗る[1]。祖父はまもなく死去し、祖母の手で育てられた。大森小学校4年を修了し、東京の実父母の元で慶應義塾普通部に通った。その後北海道帝国大学農学部（旧札幌農学校、現北海道大学）に入学、北海道に渡った。