發生在三洞橋的大爆炸，所有的線索都指向了日本人，而且日後歷史資料也確證是日本人所為，但在當時日本卻矢口否認，拚命叫屈，說張作霖不是他們炸死的，而是南方革命黨人。由於日本人的否認，皇姑屯事件在當時也如同民國時期的廖仲愷被害案、宋教仁被刺案一樣，成為眾多懸案中的一件。
歷史是很複雜的，有很多案件一眼看下去就知道是誰幹的，但偏偏沒有辦法破解，只能成為懸案。比如廖仲凱被刺案，作為國民黨左派的領袖，時人都懷疑是右派干的，甚至很有可能是在此事件發生後獲利最多的蔣介石暗中做的手腳，然而此案還有許多謎團或疑點，至今未能破解。再比如宋教仁被刺案，這個就更明顯了，人們有一百個理由認為是當時的袁世凱派人暗殺的，但賊喊捉賊又苦無證據，最後只好不了了之。
皇姑屯事件也是同樣的道理，儘管大家心知肚明，但在當時卻沒有證據，反過來日本人卻找到了一些據稱是南方革命黨人謀殺的證據。
在三洞橋附近，日本人找到了兩具屍體，在其中的一具上發現了兩封來自南方「國民革命命軍司令部」的密信，信中寫有商洽有關「東三省」起義的字樣；另一具手裡握著蘇制炸彈，一副要投彈炸橋的樣子。
由於現場偽造的痕跡太濃，估計沒幾個人從心裡相信，但當時掌握話語權的是日本，他們借此轉移了視線，把一潭水攪得更渾。
皇姑屯事件作為一樁歷史懸案就此沉澱了下去，直到二戰結束日本投降後，在東京審判時，始由日本前陸軍省兵工局長、事件的參與者東宮鐵男(當時是上尉)揭露供述，才知道這是前關東軍高級參謀河本大作(當時是陸軍大佐)等人所犯下的罪行。後來，河本大作又著書《我殺死了張作霖》，才使事件的全貌得以大白於天下。
根據河本的自供狀，20年前，河本大作對張作霖十分癡迷，其狂熱程度遠遠超過了今天的球迷之於球星，只不過球迷對球星的狂熱是善意的，而河本的狂熱則是一門心思的要置張作霖於死地。
河本與張作霖究意有什麼仇？個人私仇沒有，但是國仇是一定有的，在河本看來，正是因為張作霖的存在，才導致日本推行了十幾年的滿蒙獨立一直沒有成功。據說時任關東軍司令的武籐信義曾就滿蒙問題徵詢河本意見，河本明確表示要幹掉張作霖，除此以外沒有解決滿洲問題的第二條道路。
狂熱分子河本大作瞄上張作霖的時候，張作霖對此一無所知，所以這場較量從一開始就是不對等的，有違日本的武士道精神。不過這位狂熱的河本根本管不了這些，在軍國主義思想的影響下，他已經把報效日本甚至為日本獻身當做最大的榮耀，而報效日本的最佳方式，在當時的河本看來那就是幹掉張作霖。為實現這一至高無上的目標，河本於1926年擔任日本關東軍高級參謀之後不久，就勾結日本川越守二等人，竄到由蘇聯控制的滿洲裡至綏芬河一線的鐵路附近搞爆炸試驗，前後爆炸過兩次，掌握了引爆方法、炸藥能量及效果等第一手資料。
1928年5月，竹下義晴等另外一批日本人想謀刺張作霖，河本知道後予以及時制止，理由是有可能打草驚蛇，還有就是萬一失敗，有可能會牽扯到軍方及日本政府。河本的意思是要麼不做，要做就要滴水不漏，出了事情則由自己一人擔當。
為確保萬無一失，河本派竹下義晴到北京潛伏。不久，竹下拍來密電，說張作霖已經決定出關，並報告了火車的預定行程。事實上這個預定行程是錯誤的，因為張作霖並沒有按照預定行程的時間出發，不過河本也從來沒有相信過這個所謂的預定行程，他有自己的一套，那就是派自己的人到幾個火車站站點進行現場偵測。他派石野芳男大尉到山海關，派神田泰之助到新民屯等京奉鐵路要地，命令他們切實監視火車到達和啟動的具體時間、地點；此外，他還讓町野武馬跟隨張作霖一起登上了離京返奉的專列，後來他還是不放心，在張作霖專列開車之前也上了車，一直跟到了山海關，親自看到張作霖到了山海關後才換乘日軍專列迅速趕到奉天指揮部指揮他的謀殺計劃。這樣，張作霖幾時出發，在哪個站點停留多少分鐘，和哪些人在一起，整個的行程都像一張白紙黑字一樣清清楚楚，明明白白。
情報確保無誤後，剩下來要做的就是暗殺的時間、地點、方法和人選的選擇。
關於暗殺的時間，這個不用多說，當然是張作霖離京返奉的那段時間。如果從6月3日1時張作霖離京算起，到6月4日5時暗殺成功，時間跨度為28個小時，這麼長的時間內，足夠日本人做好各種暗殺準備了。
東宮鐵男河本大作
關於暗殺的地點，這個最讓人頭痛，因為沿線戒備森嚴。河本最初選擇的是巨流河上的大鐵橋。但是當他派工兵隊中隊長前去偵察一番後，發現無隙可乘，就算瞅準機會偷偷混進去了，安裝炸藥最少也得一個星期，時間不夠。這個地點只得放棄。後經多方研究，才找到了滿鐵線和京奉線交叉的三洞橋，因為在這個地方，滿鐵線從上面穿過，京奉線從下面穿過，日本人在三洞橋活動，不會引起別人的注意。同時，根據當時簽訂的南滿鐵路條約，中國軍警不能靠近南滿鐵路。這就為他們佈置埋設重磅炸藥，提供了十分有利的條件。
關於暗殺的方法，河本也精心策劃，設置了前後手兩招：前招是不留痕跡的用炸藥炸毀火車，萬一爆炸失敗，那麼緊跟著還有後招，那就是設計讓火車出軌，然後乘亂派刺刀隊直接衝上去刺殺。
關於暗殺的人選，河本選擇了駐守當地的日本守備隊中隊長東宮鐵男上尉，因為此人對地形熟悉，又是明正言順的三洞橋日方最高指揮官，進出三洞橋不受限制。河本還從朝鮮新義州調遣了一組工兵，攜帶電氣發火之500磅高爆炸藥兩箱，配屬其作業。為了保證爆炸成功，還設置了兩道爆炸裝置。同時，在橋墩500米外的瞭望台上設有電線按鈕，以控制觸發爆炸。
關於暗殺的善後事宜，河本也考慮得非常詳細，那就是暗殺一旦成功，那就嫁禍於南方的北伐軍，當時北伐軍正與張作霖在平津沿線開戰，嫁禍於北伐軍從理論上來看也有一定的可信度。為此，河本早在一個月前就安排日本浪人安達隆盛尋找替死鬼，安達隆盛把這個任務交給了一個名叫劉戴明的中國人。劉戴明很快就找到了三個替死鬼，1928年6月3日深夜，劉戴明給了三個人一筆錢，讓三人到三洞橋日本守備隊報到，三個人糊里糊塗地走到三洞橋附近，當場被日本人刺死了兩個，因為日本人怕暴露目標，沒敢開槍，才讓一個叫查大明的拚死逃脫了。不過查大明並沒有活多長時間，於皇姑屯事件後的第五天即被日本特務找到並殺害了，劉戴明也沒有逃過一劫，事後即被押送到大連日本憲兵隊秘密處死，這樣，所有的人證均已消失，日本人矢口否認的底氣更硬了。
獲得兩個替死鬼的屍體後，日本人將他們打扮一番，偽造了南方革命黨人謀殺的現場，這就有了前文所說的日本人提供的所謂證據。