1922年，奉系军阀首领张作霖发了委任令，拨出二百支破枪编了一个宪兵营，任命张宗昌为宪兵营长，张宗昌接到这个任命后，“嗵”的一声从床上跳下来，大声抱怨道:“昨，让俺老张当那屁营长，这不是有意捉弄咱吗?我张效坤一当兵就是团长，还没吃过营长这碗饭呢，这窝囊气我咽不下去!”


1921年，兵败失势的张宗昌投靠直鲁豫巡阅使曹锟不成，一怒之下，便和曹锟手下一名失意军官许琨，远赴奉天投靠张作霖。


当时，正值奉系军阀首领扩军备战、广揽人才之际，因此张宗昌前来投奔，张作霖没有丝毫的犹豫便答应了下来，他对张宗昌这样说道：“效坤弟远道而来，足见一片忠心，我收留了!


张宗昌见此情形，十分高兴，便一脸喜悦地对张作霖说道：“多谢大帅恩典，效坤今生今世将誓死报效大帅给予的第二个生命!”


这初次见面结束后，张宗昌对着与自己一同前来投奔奉张的许锟说道：看张大帅这这爽快劲，我们这次是找对了主了，少说也得混个师长干干!”


然而令张宗昌万万没有想到的是，张作霖与他见面时曾承诺会对他委以要职，但是这个事情竟突然没了下文，被张作霖搁置到了一边。


原来这张作霖本准备对张宗昌委以重任，但辽源镇守使张海鹏却反对张作霖重用他，并在张作霖面前揭了张宗昌的老底，细数了张宗昌过去的劣迹，使得张作霖为此犹豫了起来，除此之外，张作霖的心腹杨宇霆对张作霖广招人才，十分抵触，他从张海鹏口中得知张宗昌的过去后，便在张作霖面前，极力反对重用张宗昌，使得张宗昌担任奉军要职一事就此搁浅。


而一直在奉天等待任命的张宗昌认为被动等待非上策，趁张作霖还有好感之机，积极力争，主动出击，为此他在与许锟经过一番商量之后，决定在春节前夕去拜会一下张作霖，当时，张宗昌并没有带任何贵重的礼物，而是一手拎一只大抬筐来到了大帅府，然后走到张作霖面前，大声说到:“效坤远道来投，敬献礼物，请大帅收纳。


张作霖是一个聪明人，他知道张宗昌说这番话的用意，因而在春节过后不久，便下发了一个委任令，任命他为宪兵营长，让他从头干起。


张宗昌在接到这个任命书后，一脸的失意和不满，在许锟面前各种抱怨，说这是大材小用，他无法忍受，许锟见此情形，赶忙对他劝道：:“我们现在既无人，又无功，在人屋下，怎敢不低头?看来，权力是等不来的，我们得聚拢人马给人家干出点成绩来。


张宗昌听后，便将急躁的情绪稳定下来，这之后，张宗昌等来了机会，在围剿胡匪卢永贵的战事中，他兵不血刃，即把胡匪收编成三个团，还又吸收了从俄国逃到中国国内的俄国白军，令张作霖十分高兴，当即便将他提拔成为吉林省防军第三旅旅长兼吉林省绥宁镇守使，张宗昌就这样在奉系军阀中站稳了脚跟。