外交史料館は1971年(昭和46年)、現在の所在地である港区麻布台一丁目に開設されましたが、戦前期、この場所には中華民国大使館がありました。
中華民国公使館(1935年(昭和10年)に公使館から大使館に昇格)はもともと、麹町区永田町二丁目(現在の千代田区永田町二丁目。国会議事堂付近)にありましたが、同地区付近に国会議事堂を建設し、議事堂周辺へ中央官庁を集中させることになったため、ベルギー、イタリア、ソ連大使館と同時期に移転することになりました。
1926年(大正15年)3月より移転交渉が開始され、麻布区飯倉町(現在の港区麻布台)の徳川頼貞(とくがわ・よりさだ)邸(紀州徳川家邸宅)が移転先の候補地となりました。途中、北京政府が?介石の北伐により消滅し、交渉は難航しましたが、1928年(昭和3年)10月末、交渉が成立し、11月1日、新敷地貸付契約が結ばれました。これにより、日本政府が徳川家から敷地を買い上げ、国有地として中華民国政府に貸し付け、敷地内の建物は、中華民国政府が買い取って、以後、公使館として利用しました。
戦前の中華民国公使館移転に関する記録は、外務省記録「在本邦外国公館敷地関係一件(建物転貸関係ヲ含ム) 中華民国ノ部」に残されています。