好日子没过多久，麻烦又来了。
甲午战争后，社会上乱了几年，又开始逐步稳定下来了。这对胡子和保安来说，可都不是什么利好消息，二者都面临着下岗危机。眼看饭碗要没了，这时候商会这棵大树起到了其他业主很难起到的作用。
他们联合起来，向知府（相对于市长）增韫正式推荐张作霖，说此人是个不可多得的人才，务必予以重用。历来钱能通神，别人的面子可以不给，商会的面子一定得给。增市长也想看看这是个什么人，便传令接见。
一见面，你猜怎么着？“人不可貌相”这句话又失灵了，老张那极具欺骗性的外表和谈吐再次打动了增市长。
机会赶得巧，正好盛京将军（相当于军区司令）增祺发了个文件，要求下面“化盗为良”，对地方民团进行收编招安。根据文件精神，增市长向增司令打了个报告，把老张带的这支保安队列入了收编名单，并即日进城接受点编（也就是查验人马数量）。
在与增市长的谈话过程中，为了抬高自家身价，老张免不了要胡吹一把，说自己的保安队有一个营的人（其实只有百来号人）。眼看过几天就要点编了，老张赶忙跑回八角台，四处张贴招贤榜，七拼八凑总算把一个营的人招齐了，他自己也如愿以偿地当上了帮办（副营长）。
这之后，张副营长的主要工作，就是和增市长、增司令这些人搞好关系。然后，他立足岗位，脚踏实地，一步步升迁，逐渐从副营长做到了营长，又做到团长、旅长、师长，直至掌握了东北三省的军政大权。
在这个过程中，他与上司周旋，与同僚斗争，从一个底层的保安队长一直混到了封疆大吏。
光是善赌，会混，再怎么着也只是一个普通混混的水平，离一代枭雄的标准还差得很远。事实上，老张还能搏。
能搏并不是说张作霖只会单枪匹马地耍横。他是豁得出去，什么都敢干，但是干的时候又能做到有勇有谋。主要例证是他的剿匪故事。
老张剿匪？没听错吧，他自己可就是土匪窝里跑出来的。
没错。老张剿匪了，还剿得很有成就。
事物的发展逻辑就是这样的：正因为做过匪，所以才要剿匪，也才能剿好匪。
先收拾地产货。其他人都望风披靡，有一个人偏不买账。此胡子姓杜名立三，一向牛气冲天，把地方上搅得乌烟瘴气。偏偏他还是一个很难对付的硬骨头，其人双手握枪，弹无虚发。他防守的地盘山寨坚固，易守难攻，官军无可奈何，成为省里挂号的头牌督办大案。时任团长的老张来了以后，想了好些办法，封官许愿，诱捕围追，但都不成功。最后他玩了一招绝的，就是在他的义父身上打主意。
老张的义父黑山秀才杜泮林，是杜立三的同族叔叔。杜秀才是个书呆子，被老张一骗一哄，就给自己的侄子写了封亲笔信，把杜立三骗了出来，结果一举拿下。
杜立三是当时辽西最难搞的土匪，此匪一除，剩下的小匪自然只能作鸟兽散。老张也因功从团长升到了旅长。
次剿外地胡子。这是一股主要活动于辽西北一带的蒙古叛匪。辽西北到处都是广阔无垠的大草原，环境恶劣，蚊虫乱飞，饿狼纵横，加之蒙古人个个都是轻骑兵，出来作乱时多用奇袭的方式，一人带两匹马，一匹骑乘，一匹备用，来去如风，行踪飘忽，杀了人，掠了货，然后拨马便走，让你追都追不上。
几百年前，草原部落就用这种方式侵袭汉族边境。几百年后，这招依然管用。骑兵不灵的汉军拿这些蒙军骑手仍然毫无办法，政府称之为“巨寇”。老张年轻时当过相马师，后来当兵时，又“精骑击”，历史上是个不错的骑兵，自然训练骑兵也是很有一套的。但一开始也打不着蒙古人，不过他很快找到了办法。
这个办法就叫做：无间道。
张旅长派出杨子荣一样的角色打入叛匪内部，取得情报，慢慢地就揪住了这帮叛匪的狐狸尾巴。最后不仅把这帮人打得够呛，还狂追八百里，一直将他们赶出了国境。
维护东北边境安宁，老张功不可没。对蒙匪穷追猛打，则体现了他关键时刻能搏、敢搏、善搏的勇气和智谋。
说了这么多，其实只想说明一点：老张身上那“张大帅”、“东北王”的名号绝非浪得虚名。这是一个集狐狸的狡黠与狮虎的勇猛于一身的人。
人才啊。要跟他斗，玩阴的、玩狠的你都没辙。作为对手而言，老的老点，嫩的嫩点，总之是找错了人，看错了对象。
其实日本人当初在东北找代理，一开始对张作霖这样的人也不是很上心。他们中意的是所谓的宗社党。
宗社党并不是一个党派，只是一个团体。
说起来，这个团体的两个核心人物都与抗战史上臭名昭著的一个大汉奸、大间谍有关。
这个人就是川岛芳子。两个核心，一个是川岛芳子的老爸肃亲王，一个是川岛芳子的养父、日本浪人川岛浪速。这两人合在一起，变着法地想搞“满蒙独立运动”。如此一来，便合了日本政客的胃口。
不过，想法是好的，要变成现实就不那么容易了。肃亲王不是老张，赌博既无技术，又欠运气，所以第一把就输了，而且输得干干净净、彻彻底底——老人家冒着千辛万苦，借巨资买来一大批军火，准备通过走私的方式运到内蒙古去，结果被张作霖的拜把兄弟截获了，近50辆大车的军火白送给了人家，自然“独立运动”就无从谈起了。
外援接济不上，只能靠草原上自己的人了。宗社党接着又拉拢上了蒙古叛匪头目巴布扎布。巴布扎布也毫不含糊，很有点给人当枪使也幸福的劲头，立即在内蒙古聚众起事，并亲率五千骑兵向奉天（沈阳）杀来。
如前所述，老张在打蒙古骑兵方面已经很有些心得，几个勾拳下去，就把叛匪给撂倒了。巴布扎布本人虽然骑姿英武，但架不住奉军的炮火凶猛，最终也光荣地“死逑”了。
日本人眼睁睁地看着宗社党从意气风发走向溃不成军，终于明白了一个道理：阿斗型的选手终究是不能成器的。
张作霖不失时机地向沮丧的日本政客们伸出了橄榄枝。
这时的老张又升官了。清帝退位后，袁大头任总统，全国陆军部队进行整编，张作霖被任命为陆军第27师中将师长。从地方军事职务上，这算到头了。
可是老张认为这还只是万里长征走完了第一步，他还需要继续壮大自己的实力，拉起一支足以争霸天下的私人武装，而以老张摸爬滚打多年的经验，深知若无列强做靠山，这永远只是一个不可能实现的梦想。
日俄战争后，列强中真正在东北能玩得转的就是日本。虽然它没能如愿以偿地从战败国沙俄身上捞到什么战争赔款（白俄是有名的要钱没有、要命有一条的主），但继承了“南满铁路”和旅大的租借权，并且驻有一定数量的军队。
他们不帮忙不点头，老张就没法真正发达。所以，这边“老日”还没来得及忽悠老张，老张就已经开始准备忽悠“老日”了。
刚当上师长，张作霖就向日本关东都督（关东军司令前身）打招呼，说了一大通好话。无非表明两层意思，一层是自己对日本有好感，是一个不折不扣的“亲日派”，另一层意思是“我办事，你放心”，一副唯命是从的样子。
忽悠完军人，马上又忽悠政客。老张随后又主动拜访了日本驻奉天总领事，表达的意思也差不多，只是更加声情并茂一点。
不过，老张的热情起初并没有打动这些日本军政要员的心。道理很简单，那时候上门来拍马屁搞投机的人太多了，都排着队拎着烟酒来的，比张作霖更大的官也没少见。
老张走后，他们只是从鼻子里哼了一声：又一个投巧取巧的。随手便把老张的名片扔进了废纸篓。