山本勘助出生于西三河贺茂，原名山本源助，父亲山本藤七郎光幸，及异母兄弟山本带刀左卫门成行，为三河牛久保城主牧野氏(牧野成胜，牧野成定，牧野康成)的家老，十五岁时被同为牧野氏家老的大林勘左卫门贞次收为嫡养子，改名为大林勘助贞幸，贞次嫡子大林贞则出生后被废嫡。父亲先后侍奉今川氏及武田氏，三河山本家原籍骏河富士郡，后在父亲或祖父一代转封至三河2,200石。父亲山本光幸在花仓之乱拥立玄广惠探失败后曾作为周游列国的浪人。花仓之乱时山本勘助已经四十三岁，故有可能参与战斗，花仓之乱后五年发生武田晴信玄与板垣信方等人放逐武田信虎事件，可能在此时由浪人身份出仕武田家，因功得到100贯领地(约五百石)，后增为二百贯(一千石)的足轻大将统领75名足轻，最高曾领有800贯(约四千石,秀吉当长滨城主时不过六百贯)。受武田晴信偏讳曾改名“晴幸”。其兄山本成行追随牧野氏支持梅岳承芳(今川义元)，桶狭间战役后牧野氏独立，再后被德川家康征服，隶属于东三河旗头的酒井忠次势力，德川幕府成立后牧野氏入主越后长冈藩，山本氏代代为其家老，后裔山本带刀义路(知行1300石)有位养子山本五十六，故争议颇大。
江戸时代后期成立的《甲斐国志》则记述他出生骏河富士山郡山本村，原名山本源助。父亲为山本贞幸，因其为山本家次男，加之幼时左眼失明，右腿残疾，父亲准备让其出家。最终被三河国大林勘左卫门收为义子，改名大林勘助。后在多个地方流浪学习剑术和军学，并再次改名为山本勘助。
天文十二年，被武田信玄重臣板垣信方发现，从此侍奉信玄。最初名为“康时”，随后拜领信玄一字，改名晴幸，又出家入道，取号道鬼。独眼跛足、足智多谋，是武田军战术战略方面的领军人物。
勘助侍奉信玄不久，机会便从天而降。1542年，武田信玄占领信州诹访赖重的居城上田城，将赖重移居甲府并命其自尽，然而信玄却看中了赖重侧室所生的女儿诹访御料人(由布姬)。信玄虽然是雄才伟略，但也是英雄难过美人关，甚至超过了自己的父亲武田信虎。当时信玄除了正室三条夫人外，有六名侧室(也有传说是三十名)，而信玄在这么多妻子中最喜欢的却是诹访御料人。当信玄表示想娶诹访御料人为侧室时，以板垣信方为首的重臣们纷纷表示反对。因为重臣们都不肯让信玄为一个女人冒险，因此不怕得罪主君而坚持反对，结果信玄也束手无策。而在此时提出妙案说服家臣，使信玄得偿所望的却是山本勘助。“群龙无首的诹访众并没有什么谋反的企图，而信玄公迎娶诹访御料人后，将她留在诹访。诹访的百姓们也会期望她能生一个男孩儿，重新振兴取访家，并为之欢欣鼓舞。如果取访御料人真的生一个男孩子，那么把他留在诹访，由他来统治诹访。因此信玄公迎娶诹访御料人乃是大喜之事。”在勘助的劝说下，家臣们衡量轻重，终于不再反对，信玄自是大喜过望，从此重用山本勘助，将其视为自己的臂膀。
