大阪府大阪市東区北浜4丁目の八木忠兵衛、みちの三男として生まれる
[2]。父は両替商であった。
大阪市愛日尋常小学校、第四高等小学校、大阪府第一中学校(
北野中学に改称)に入学。1903年同中学を首席で卒業。すでに父が亡くなっていたが、19歳上の長兄は株屋に就職し、八木は経済的援助を受けた。なお、当時の株屋は世間の評判が低く、分家して八木家を継承した。1903年
第三高等学校理科に入学。中学、高校時代には俳句など文学にも興味があった。1906年東京帝国大学工科大学電気工学科に入学した。
無線に興味をもった。卒業時の成績は33名中5番であった
[注釈 1]。