長唄三味線方の杵屋勝東治と妻・八重子の次男として、母方の実家のある千葉県で生まれる。生家は東京市深川区（現在の東京都江東区）。若山富三郎は二歳上の兄。宇津井健は幼馴染。旧制法政中学校（現在の法政大学中学高等学校）中退。十代のころは長唄と三味線の師匠として、深川の芸者に稽古をつける。長唄の名取は二代目 杵屋勝丸。1954年のアメリカ巡業中に、撮影所で紹介されたジェームズ・ディーンに感化されて映画俳優になることを決意する。

23歳の時に大映京都撮影所と契約、1954年の『花の白虎隊』でデビュー。大映社長の永田雅一は勝を可愛がり、白塗りの二枚目として市川雷蔵に次ぐ役者として熱心に主要な役を与え続けたが、思うように人気が出なかった[6]。同年代の雷蔵・山本富士子・若尾文子が早々とスターとして活躍していくのとは対照的に、憧れの長谷川一夫そっくりのメイクも板につかず、主演作のあまりの不人気ぶりに映画館の館主達からは「いい加減に勝を主役にした映画を作るのはやめてくれ」、「勝の主演ではヒットしない」との苦情が絶えず寄せられるほどだったが[6]、1960年の『不知火検校』で野心的な悪僧を演じたことにより、それまでの評価を一新させることとなる[7]。

1961年、二代目中村鴈治郎の長女で同じ大映に在籍していた女優の中村玉緒と婚約

1967年に勝プロダクションを設立、自ら映画製作に乗り出す[8]。この時期、大手五社によるブロックブッキング体制・五社協定崩壊の中、三船敏郎の三船プロ、石原裕次郎の石原プロ、中村錦之助の中村プロなど映画スターによる独立制作プロダクションの設立が続いた[9][10]。

勝プロは、既に経営が立ち行かなくなった末期の大映が傾倒した若者向けの暴力・エロ・グロ路線の作品とは一線を画し、三隅研次・安田公義・森一生・増村保造ら大映出身の監督たちと時代劇の伝統を絶やさぬよう拘りぬいた映画制作を続け、勅使河原宏・五社英雄・斎藤耕一・黒木和雄ら、当時インディペンデントな場から台頭しつつあった監督（斎藤のみは元日活であるがスチルマン出身である）たちとも手を組み、『燃えつきた地図』、『人斬り』などを製作・主演した。また、一方では『男一匹ガキ大将』や実兄・若山富三郎主演の『子連れ狼』、自身も主演した『御用牙』などマンガ・劇画の映画化やテレビドラマ製作にも進出した。