1928年6月4日，“东北王”张作霖在沈阳皇姑屯被预先埋设的炸药炸成重伤，送到大帅府后不治身亡。“皇姑屯事变”后，关东军极力摆脱关系，但最终认定这起刺杀大案就是关东军所为，时任日本关东军高级参谋河本大作一手策划。
日本人为何放弃了张作霖？要知道张作霖在东北做大，日本人“功不可没”。1922年2月6日，《九国关于中国事件适用各原则及政策之条约》（即《九国公约》）在华盛顿签订。公约的核心是美国提出的在中国实行“门户开放，机会均等”的原则。
这个条约的签订，使得日本独霸中国的愿望落空。正如毛主席后来所说的那样，“1922年美国召集的华盛顿九国会议签订了一个公约，又使中国回复到几个帝国主义国家共同支配的局面。”
在这种背景下，时任日本外相币原喜重郎提出了“币原外交”。币原外交以颇具迷惑性的方式提出对华政策，“不干涉中国内政”、“维护合理利益”以及“日中经济大合作，共存共荣”。可如何才能扩大在华最大利益呢？
日本政府认为最好的方式就是扶持在华代理人，尤其东北的权利必须掌控在自己手中。这个代理人就是张作霖。张作霖从绿林成为“东北王”，他的手段确实惊人，敏锐觉察到日本政府的政策动向后，也试图依靠日本来发展壮大自己的势力。
换句话来说，张作霖就是日本政府在华盛顿体系下扶植起来的日本利益在东北的最大代理人。早在1905年日俄战争时，张作霖就跟日本人有了秘密联系，日本间谍手记中是这样评价张作霖：
“这位中国人，是驻扎在新民府的营官，名叫张作霖。他对日军抱有非常的好感，今后愿为日本军效力。他又允诺将中町隐藏在他的家里……适宜于做搜集所。”
张作霖也投其所好，帮助日军搜集俄军的情报，一度袭击俄军后方，比如破坏交通、电站等。日俄战争后，张作霖得到日本的推荐，担任前路巡防营统领，由新民移驻郑家屯。1911年辛亥革命爆发后，东三省总督赵尔龚为镇压奉天革命党人起义，把张作霖军队调进奉天。
不久，张作霖出任任“奉天国民保安会”军事部副部长。袁世凯上台后，任命张作霖为第27师师长。袁世凯死后，张作霖势力大涨，被北京政府任命为奉天督军兼省长、东三省巡阅使。日本也很配合，张作霖成为了不可一世的“东北王”。
张作霖成为“东北王”后，他的日本顾问就推断：“得陇望蜀是人之常情，尤其他更是如此，一旦取得大的势力之后，必将起取天下之心。事至此步，（张作霖）更需要我们的援助，即使举全满蒙之权利而出卖之，亦在所不辞。而在他遭到失败时，我深信更会如此。”
张作霖也确实做到了日本人需要的一切，当时日本势力独霸满洲。这期间张作霖和日本政府打得火热，可这种火热关系都是建立在利益基础上的，一旦张作霖没有了利用价值，他就会被日本政府立即抛弃。
张作霖是公认的枭雄，这意味着他根本不愿意只做一个傀儡，也不愿被后人指着脊梁骨骂他是“卖国贼”。比如在关系到东北一些重大利益时，张作霖就想办法拖延，或者变着花样不履行。
1927年4月，田中义一出任日本政府首相，田中内阁宣告成立。6月，田中义一召开了臭名昭著的东方会议，这是日本推进侵华的大陆政策一次重要会议。田中内阁认为，“欲征服支那，必先征服满蒙，如欲征服世界，必先征服中国。”
这时张作霖就成为了一个障碍，如何解决这个棋子呢？田中内阁形成了两个阵营，一种逼迫张作霖妥协，进一步扩大日本在满洲的利益；第二种是除掉张作霖，再选择其他代理人。田中意义认为在北伐军大肆北上情况下，此时除掉张作霖不是很好的事迹。
田中义一还认为只要方式得当，张作霖还是会“回心转意”。田中义一自己也没有想到，关东军竟然私下下手了。田中义一的儿子田中龙夫在回忆录中说：“父亲是在吃饭时获知这个消息（张作霖被炸死），他气愤地摔掉筷子，连说‘糟了’！”
田中义一之所以生气，是他认为关东军破坏了自己的谋划，依靠张作霖来实现自己的“满蒙分离”政策。1927年9月4日，奉天爆发了两万人示威游行，高呼“打倒田中内阁”，原因是田中意义逼迫张作霖解决“满蒙悬案”，张作霖直接搪塞过去。
关东军认为，奉天这次声势浩大的反日示威行动，就是张作霖在暗地煽动所致。时间到1928年5月，北伐军一路势如破竹，已经逼近了京津地区。张作霖在北京瑟瑟发抖，关东军也预感到奉系可能不是北伐军对手。
关东军担心战火烧到关外，就警告张作霖：“将来奉军败兵如经山海关，日兵须将其缴械。”张作霖根本不吃这一套，双方矛盾激化，刺杀行动爆发了。河本大作后来的口供就体现了这一点，
“奉天军如此排日，完全是出自张作霖等人的意图，并不是群众的心里真正以日本为敌。很清楚，只是想依靠欧美驱逐日本势力，图谋扩张一己的军阀势力，饱肥私囊，完全不是基于真正谋求东洋的永久和平这样一个信念。一个张作霖垮台，其他辛系诸将必将树倒猢狲散。”某程度上来看，关东军这是一次豪赌，可他们确实赌赢了。