胡佛在聯邦調查局裏物色了一位與杜魯門相熟的人作為他與白宮聯絡的聯絡官，此人是杜魯門的密蘇裏州同鄉、幼時玩伴的兒子馬裏恩·齊恩斯，齊恩斯小的時候曾見過杜魯門。這一次，儘管齊恩斯本人並不願意擔當這種角色，但他要在聯邦調查局裏繼續供職，就不能不聽取局長大人的吩咐。於是，他到白宮拜訪父親的好友時，代表胡佛局長向新任總統表示了忠心：“胡佛先生希望讓您知道，他和聯邦調查局完全聽從您的支配，隨時聽從您的召喚。”

新近才掌握大權的杜魯門這時還沒有領略到聯邦調查局在對付政敵中的巨大作用，於是冷冷地頂了回去：“如果我真的需要聯邦調查局做什麼的話，我自會通過司法部長提出要求的。”

對聯邦調查局的認識發生了改變

杜魯門逐步熟悉了當總統的各種不足為外人道的訣竅後，對聯邦調查局的能量有了新的認識。在擔任總統之後不久，他就了解到羅斯福在世時通過胡佛進行電話竊聽，從而掌握政敵活動情報的內幕。這時，他看到了從羅斯福陣營中游離出來的投機政客湯姆·科科倫的電話竊聽材料，當時他脫口而出：“這是幹什麼嘛！不要再這樣搞了。告訴胡佛，我可沒有時間看這些東西。”不過，當他耐心看完這份材料後，這個外表樸實、內心敏銳的杜魯門，對聯邦調查局的認識發生了改變。

由於是從副總統之職填補空缺而擔任的總統，杜魯門的權力基礎並不牢固，因此他通過聯邦調查局對政敵和反對者進行秘密調查的動因更加迫切。於是，聯邦調查局不僅安全度過了來自總統的信任危機，而且日益得到杜魯門的器重。

除了電話竊聽之外，聯邦調查局還向杜魯門送去大量的政治情報，比如説哪家報紙準備對有關政策提出批評，哪些官員涉嫌政治和生活醜聞等等。不過，令胡佛頗為不快的是，杜魯門一直避免與這位聯邦調查局局長髮生直接聯絡，而是通過司法部長來進行，這與羅斯福時代胡佛甚至可以左右他名義上的上司司法部長的人選形成了極大的反差。

中央情報局橫空出世

杜魯門上臺後，發現情報機構雜亂無章，自己所得到的情報互相矛盾，經過與軍方協商，準備建立一個能使陸海軍都能接受又不超出總統控制的情報機構計劃，即建立一個使所有與國家安全有關的部門均佔有一席之地的中央情報機構。經過各方的激烈爭吵，直到1946年1月，才基本上達成了妥協意見。第二年，國會通過了《國家安全法》，設立國家安全委員會，同時也建立了中央情報局。與聯邦調查局係內閣下設的一個專業局不同，中央情報局是總統直屬機構，它既不歸軍方領導，也不屬於國務院，而是對由總統、副總統、國務卿、國防部長、財政部長、國防動員署署長等人組成的國家安全委員會負責。

中央情報局成立後，聯邦調查局僅負責反情報和國內安全工作，而國外情報則全部由中央情報局負責。中央情報局不像後者那樣擁有發出傳票和實施逮捕的權力，但它作為一支類似于黑章魚的“秘密力量”，也擁有一些特殊權力。

聯邦調查局把美國對外活動的領導大權據為己有的夢想破滅了，甚至大戰期間在拉丁美洲取得的地盤，也拱手送給了中央情報局。儘管聯邦調查局在倫敦、巴黎、羅馬、墨西哥、渥太華等地的聯絡站仍然保留著，但也僅限于聯絡作用了。局長胡佛對中央情報局的橫空出世非常惱火卻又無可奈何，所以在向中央情報局移交海外情報活動檔案時，他燒掉了一些重要材料，而且拒絕向中央情報局講述過去幾年發展起來的一些新型情報手段。