日本是国际汉学研究的另一中心，陈垣在20世纪20年代多次提出汉学正统在西京还是巴黎的问题，希望努力将中心地位争回北京。傅斯年在史语所工作旨趣中，也明确表达此意向。不过，日本原有传统汉学，受近代欧洲学术影响而兴起的中国研究，则标名为“支那学”或东洋学（范围稍宽）。后因“支那”一词演变为含有侮辱性质，今人主张直呼中国学。而京都的中国学与东京的东洋学在方法、取向等方面，都有明显分别。在王国维、陈垣、陈寅恪乃至胡适等人看来，就中国研究而言，西京显然要略胜一筹。
胡适与日本中国学者的因缘，亦可追溯到留学时代。他转学哥伦比亚半年后，在该校研究化学的东京商业学校教员泽田吾一登门请教白居易诗，知道胡适治哲学，即告以“过日本时当访其友狩野亨吉博士，博士尝为京都大学文学院长，其人乃‘真哲学家’，藏汉籍尤富，今以病居东京”。胡适归国行色匆匆，虽途经日本的横滨、神户，却未前往东西两京。只是在停船时买了《新青年》第3卷第3号，对所刊桑原骘藏《中国学研究者之任务》一文颇有共鸣，认为所说“治中国学宜采用科学的方法”之言极是，并赞同其将中国古籍重新整理以适于今用的主张。这至少是胡适整理国故的思想来源之一。
1920年，胡适曾有赴日计划，亦未实现。倒是日本方面，因为注意新文化运动而主动与胡适联系。发端者便是后来以研究中国近世戏剧史而闻名的青木正儿。1920年，他在京都和小岛祐马等人创刊《支那学》杂志，并于第1—3号发表长篇论文《胡适を中心に涡いてある文学革命》，这是迄今所知国际学术界最早正面报道研究中国文学革命的论文。青木正儿随即致函胡适，并寄上《支那学》第1号。以后两人多次通信，互赠书刊。胡适在欣赏明清艺术及新诗创作等方面引青木正儿为同调，并介绍周氏兄弟（树人、作人）、吴虞、沈尹默等与之结识，同时托请青木正儿代访章学诚遗书及各种版本的《水浒传》，由此与京都学派的领袖内藤虎次郎和狩野直喜沟通联系。胡适后来写成《章实斋年谱》及《〈水浒传〉后考》，除表示因内藤虎次郎是外国学者却率先作章学诚年谱而自觉惭愧以及与狩野直喜关于《水浒传》的见解不谋而合而高兴外，还特别感激“我的朋友”青木正儿热心搜求《水浒传》材料如同自己的事。1925年青木正儿作为文部省在外研究员来华留学，曾在北京与胡适会面。
不过，胡适似乎有些误解《支那学》杂志代表京都学派的意见。其实这并非京都大学支那学会的机关刊物，也不代表京都学派。其中起主要作用的小岛祐马、青木正儿、本田成之甚至武内义雄，都有超越内藤虎次郎、狩野直喜藩篱的意向，而引起后者的批评。如武内义雄在该刊撰文认为清代考据方法已达穷极，内藤虎次郎则称应注意好的方面。青木正儿听取胡适的意见，发表《本邦支那学革新第一步》，要求日本中国学者改用中国音读法，也遭内藤虎次郎指责。
明治以后，日本一度倡行欧化，后来国粹主义抬头，中国研究随之复苏。因此，日本的中国学者，大都主张保持和发扬东方固有文化，与胡适的倾向很不一致。青木正儿反儒学，实属罕见。鲁迅从在京都研究文学的沈尹默处听说“青木派亦似有点谬”，当反映京都学派主将们的意见。即使这样的新派，也自称有“乾隆文化的讴歌癖”，其论文不仅指出文学革命重形式而忽视内容的不足，来函还声称“很爱中国旧世纪的艺术，而且遗憾的事情不鲜少”，希望倡导新文艺者发扬中国之长，而以西洋文艺的优点翼补所短，以“做一大新新的真文艺”。
来华登门拜访者，更直接表达了对胡适主张的怀疑。1920年至1921年间留学中国的诸桥辙次来访，笔谈中除称赞胡适赠阅的《中国哲学史大纲》及请教关于中国家族制度研究的参考书外，提出两大问题，其一，宋代自由思想郁兴，学术发达的主因为何。其二，“近年敝国人之研究经学者，多以欧米哲学研究法为基，条分缕析，虽极巧致，遂莫补于穿凿。弟私以为东洋经术、西洋哲学既不一，其起原体系研究之方法Method，亦宜有殊途。然而弟至今未得其方法，又未闻有讲其方法者。请问高见如何？”
对于前者，胡适的回答是印度思想输入融化。精于宋学的诸桥辙次怀疑单纯外因的力量，强调内部思想发展及相互影响作用。对后者胡适可以说答非所问，他说：“鄙意清代经学大师治经方法最精密。若能以清代汉学家之精密方法，加以近代哲学与科学的眼光与识力，定可有所成就。”并举所著《中国哲学史大纲》的导言和《清代汉学家之科学方法》以供参考。其实，胡适的中国哲学史著作，同样有诸桥辙次所指之弊病。而诸桥辙次的问题，至今仍然困扰东方学术，实在是20世纪国际学术发展的根本难题。以胡适的世界主义观念及其对西洋科学方法的崇拜，很难虑及于此。在他看来，治世上一切学问皆可以一种科学方法。
此外，诸桥辙次还来函提问：“一、中国领土广大，南北各异，语言以白话代文言，宁不招国语紊乱而致人心乖离吗？二、文言有固定性质，白话有进化性质，若以白话代文言，则朝变暮改，还可期系统的发达吗？三、学童所修专是白话，则彼成人之后，不训读文言，则旧库载籍岂不空束高阁了吗？则禹域3000年文化将荡然扫地。请问有何办法可救此弊？”诸桥辙次后任文理科大学教授和静嘉堂文库长，多次来华，1930年3月到上海访书时，与胡适再会。所言足以代表一般来华日本学者“往往替‘东方的遗产’抱着过分的忧虑”的态度。他后来回忆与中国学者的交往，还是以遗老派旧人为首为主，对胡适不过附带提及。1921年来华留学的东京帝国大学研究生竹田复，也曾到北京大学向胡适请教关于五四运动的事。
此后，胡适相继认识了久住中国的日本著名汉学家小柳司气太、主持三井公司下设中国研究室的今关寿麿以及先入《顺天时报》社、后来在东方文化事业总会的桥川时雄。前者已是苍然老人，崇信儒教，认为：“儒教为中国文化一大宗，其中有几多真理，一旦弃去，甚为可惜。”他邀请胡适加入日本学者服部宇之吉、宇野哲人、狩野直喜、井上哲次郎等组织的提倡儒道的斯文会。胡则“只认儒教为一大宗，但不认他为唯一大宗”，遂以不赞成儒教而婉拒其请。但双方仍有来往，胡适在其宴席上还认识了刚从欧洲归来的京都大学羽田亨教授，对这位通数国文字，著有《西夏纪年考》等书的东洋史专家印象颇佳，知其携有敦煌文书影本四千余卷，将次第印行，认为“此极好事，我们都应该感谢”。羽田亨后任京都大学校长，是首位中国学家出任这一职务。小柳司气太回国时，胡适还为之饯行。今关寿麿送给胡适自作的《宋元明清儒学年表》，两人就中日两国学术发展交换看法。今关寿麿称日本近代史学受崔述和汪中的影响最大，胡适则认为主要是西洋学术的影响，并谓：“日本史学的成绩最佳。从前中国学生到日本去拿文凭，将来定有中国学生到日本去求学问。”此言后来应验，但陈寅恪予以讥讽。
小柳司气太、今关寿麿均长期在华，与中国学者广泛交往，对胡适的看法似不佳。小柳承认中国学问还是中国学者高明，确为洞见，但所说“即使架上梯子也不能望其项背的伟大的学者”，却是“深居简出”的人，显然不包括胡适。今关寿麿曾于1922年出版关于中国现代学术界的小册子，后来又写成《近代支那の学艺》，全面检讨当时中国学术界的状况。他认为，概言之，现代为学界衰敝时代。虽然北大一派用西洋科学方法整理旧学术为新的开端，但前景未可乐观。所列举中国诗文界各派代表，也没有白话文学的地位。
不过，今关寿麿后来有兴趣于佛教史，1935年在北平读了胡适的有关论著，虽认为多踏袭日本学者的新说，但加入中国材料，利用敦煌文书，且善于整理安排，令人一目了然，遂将5篇关于禅宗史的论文译出，辑为《支那禅学の变迁》一书。事前他曾函告胡适，以征得其同意。1936年6月23日胡适复函称：“先生如要译拙著，但请自由翻译，不必征求我的同意。印出后，乞赐一份，为惠多矣。铃木大拙先生已往英国，想今年可归。我本年七月十四日从上海赴美洲，在东京有一日句留，或可与先生相见也。”
桥川时雄是现代日本与中国学者交往最广之人，他见胡适时，后者正在筹办《国学季刊》，告以非刊登王国维的论文，不足以为刊物增色，而王则反对横排版。在胡适的交涉之下，王国维愿意妥协，杂志得以出版。王国维称，他让步是因胡适为当今学界最好的人。而当时胡适在北大派对王国维的一致推许中尤为佩服后者的学问。其间桥川时雄将胡适的《五十年来中国之文学》译成日文。
1927年4月，胡适自美洲返国，因国内政局不稳而羁留日本二十余日，会见了东西两京的中国学者。其间胡适无日记，只是在给董康《书舶庸谈》所作序言中含糊提及，这时同样避祸于日本的董康所交往的东西两京学者，与其大体相同，有关情形多语焉不详。其实此行颇为典型地反映出胡适与日本学者的关系。他结交的主要是研究佛教的名家，如高楠顺次郎、常盘大定、佐伯方丈、矢吹庆辉等人，在后者家中见到从伦敦影印的敦煌写本《坛经》，因未编新目，所以胡适漏过。高楠顺次郎等劝胡适早日把神会的遗著整理出来，矢吹庆辉还寄赠敦煌本《坛经》影本。两年多后，胡适终于编定《神会遗集》4卷，并寄一份给高楠顺次郎，供其续刊《大藏经》之用。
1933年10月，胡适由加拿大归国，路过横滨，会见另一著名佛教研究者铃木大拙，又听说日本新发现北宋本《六祖坛经》，并在回国后得到铃木大拙寄赠的京都堀川兴圣寺所藏该书影本，胡适据此写了《〈坛经〉考之二》。日本的佛教研究在国际学术界享有盛名，而铃木大拙等人对胡适所治禅宗史颇不以为然。
至于东京帝国大学东洋史和中国史的学者，与胡适的精神距离较大，服部宇之吉访问北大时，曾指责北大不尊孔和废讲经。此前胡适又拒绝加入斯文会，因而较少往来。先此，他在伦敦看敦煌卷子时，东京帝国大学的宇野哲人刚好也在，后两人又同时出席法兰克福中国学院大会，但似未接谈。此行与东京帝国大学的关系，唯一找到的记载是5月5日由该校辩论部邀请他在34号教室演讲“中国的文艺复兴”。这在胡适已是老生常谈，却又因时而异，重点强调非政治性的文艺革命是要在辛亥革命之后教育国民，使之进入新的国民运动。斯文会的机关刊物《斯文》报道了这一消息，所加附记称，因胡适来去仓促，无暇相与论学谈文，感到遗憾，并以该刊附录《西游杂剧》，表示愿为其海外新知己。
胡适意外滞留日本，本无要事，与其说客观上忙，不如说是主观上想避。他后来曾对东京帝国大学出身的一户务明白表示，东京帝国大学只对汉学（指日本传统汉学）感兴趣，不懂真的中国文化学术。世界上研究中国文化之地，只有巴黎、京都和北京。在他看来，东京帝国大学支那哲文科出身者不过是汉学塾生而已。这一令一户务在心底久久难忘的评语，将胡适对东京帝国大学中国学研究者的态度和盘托出，也是双方难以接近的要因。
在京都，胡适和吴学义拜访了狩野直喜，后者即将定年退官，遂临时在乐友会馆召开支那学会，请胡适演讲，狩野直喜、铃木虎雄、仓石武四郎以及京大学生数十人出席。胡适顺应京都学派尤其是狩野直喜的主张，说不能只研究“虏学”，即周边民族，必须研究中国本部，幸而京都有这方面的优秀学者，自己十分佩服，希望在场的学生多向狩野直喜、铃木虎雄请教。因听众中文程度不够，胡适的演说中英文参半，仓石武四郎致闭会词时称这显示了日本学界的落后。一年后，仓石武四郎赴中国留学，努力学作中国人，并曾拜访胡适，归国后还保持中国式的生活习惯，或与此不无关系。
此行似得狩野直喜好感，半年后去京都的陈源见到仓石武四郎等人，函告胡适：“狩野据说非常的佩服你。”但这或是狩野直喜的客套，或是陈源的恭维，因为恰在此时，王国维自杀身亡，狩野直喜撰文悼念时说：“当今中国，因受西洋学问的影响而在中国学中提出新见解的学者决非少数，可是这种新涌现的学者往往在中国学基础的经学方面根柢不坚，学殖不厚，而传统的学者虽说知识渊博，因为不通最新的学术方法，在精巧的表达方面往往无法让世界学者接受。”他认为用索引方式重新条理中国文明的整理国故，大有筑坝令峡谷风景沉没之感，而主张保持和爱惜其自然风光。这无疑与胡适的见解大相径庭，而且是针对胡适的主张。在此前后，九州大学有人动议请胡适为外人讲师，遭到校长的反对而作罢。
尽管胡适的学术成果多为日本学者注意而其主张引起的共鸣不多，但他对日本中国研究的态度影响却不小。从留学时代起，胡适就是近代中国主张理性对日的少数人之一，一面呼吁国人不要感情用事，一面警告日本必须改变侵略政策。他知道“中国之大患在于日本……中国存亡系乎其手”，而主张从日本开始推行其人道主义。为此，他表示“不可不深知日本之文明风俗国力人心”，“不可不知日本之文字语言”，决心到日本住两三年，“以能以日本文著书演说为期”，并批评中国学生“往往藐视日本，不屑深求其国之文明，尤不屑讲求沟通两国诚意之道”为“大误”，誓为东瀛三岛的传教士兼朝圣者（Missionary and Pilgrim）。可是当他托人代购日本文法书准备学习日语时，朋友告以由阅历得来的真相是：“日本文化一无足道，以综而言，则天皇至尊；以分而言，则男盗女娼。”对此胡适不禁叹道：“嗟乎！此言而果代表留日学界也，则中日之交恶，与夫吾国外交之昏暗也，不亦宜乎？”
在对日问题上，胡适的“理智”态度和“稳健”主张几度引起激烈批评抨击，但始终坚持应学习日本的长处，认为“最要紧的是不要存轻视日本文化之心理。日本人是我们最应该研究的”，并将中日互相懂得赏识彼此的文化，视为两国和平共处的保障。为此，他曾为日华学会题词：“中国文化的特别长处在于侧重人生，忽视宗教，正德、利用、厚生，这是中国原有文化的三大目标。”
从1922年起，胡适介入了日本以退还庚款举办的东方文化事业，曾与蒋梦麟拟订计划，主张在中国国立大学和日本帝国大学互设中、日讲座，提倡东方文化研究。虽然抗议日本垄断此项事业的企图，主张却较为缓和。任东方文化事业总会委员的日本议员大内畅三说，胡适不懂日语“是一件大憾事”。
1935年以后，胡适的对日态度改变，和北平知识界一起反对华北特殊化，因而被日本视为反日派领袖。但第二次世界大战后在处理有关文化事业上，他仍保持一贯的理智。当时学术界主张对日索赔、搬回古书古物的呼声甚高，胡适认为私人购去的如莫礼逊文库，不必讨回，用庚款建的学术机关，在中国的可没收，在日本的应鼓励其继续维持。1946年，他接到阔别20年的神田喜一郎的来函，并得知铃木大拙的消息。1927年胡适访问京都时，就与时任大谷大学副教授的神田喜一郎见过面，1930年8月，转任台北大学的神田喜一郎来上海访书，与之再度会晤。第二次世界大战后胡适与吉川幸次郎在赴美途中邂逅，毫无芥蒂的态度，令曾是京都乐友会馆听众一员、尚背负战败国民十字架的后者万千感慨。吉川幸次郎对胡适的学术主张异议不少，却认为在其后不大有像他那样对日本学者的业绩敏感的中国学者了。第二次世界大战前中日两国学术界联系密切，经历战争创伤，仍得以逐渐修复，其中胡适多少有所作用。
胡适与日本学者的交往，成为他和朝鲜学者联系的契机。中国新文化运动兴起前后，日本统治下的朝鲜民族解放运动高涨，也出现了建设本国新文化的呼声。1920年6月创刊的《开辟》杂志，以开新纪元，创新时代，养新人物为宗旨，于当年10月出版的第4号发表主编李敦化的署名文章《朝鲜新文化建设方案》，提出分鼓吹知识、普及教育、改良农村、都市中心、科学专家、思想统一六个阶段，实现新文化建设。而中国方兴未艾的新文化运动，势必为其所关注。该刊第5—8号连续译载青木正儿的《以胡适为中心的中国文学革命》，译者梁白华，名建植，字菊如，号杏村洞人，是当时朝鲜十分活跃的汉文学研究者。早在1917年11月，他就在《每日申报》撰文《关于支那的小说及戏曲》，指出：“研究外国文学的目的在于有利于发达本国文学，支那文学输入朝鲜三千余年以来，给予极大影响，深深扎根，故不解支那文学，不能于我国文学有一知半解。况且支那文学具有一种特性，于世界文坛大放异彩。支那为东洋文化源泉，思想郁然磅礴，词华灿然焕发，合北方沉郁朴茂与南方横逸幽艳成一雄浑壮大的支那文学，浸及于朝鲜、日本。”该文在概述元明清小说戏曲发展简史及其对朝鲜的影响后，指出小说戏曲具有平民文学性质，希望与正在输入的西洋文学融贯调和。他翻译青木正儿的论文，正是想借鉴中国的文学革命，以创建朝鲜的新文学。
1920年12月，《开辟》社致函胡适，寄赠已出各卷外，还请胡适为新年号题词。胡适从留学时代起就关注亡国的朝鲜同学，与金铉九结为友人，对其境遇充满同情，常以无力支持帮助为憾，自责道：“韩人对于吾国期望甚切，今我自顾且不暇，负韩人矣。”接信后，即于12月19日题写“祝《开辟》的发展”，并复函：“适批阅贵志，方知贵志为东方文学界之明星，兹将数字奉呈，以为贵志之祝笔，代登为感。专此敬请贵社日益发展。同呈敝同事北京大学教授高一涵君祝词，并乞收纳。”祝词和复函一并影印刊登于《开辟》1921年新年号上。胡适致函青木正儿时，对《支那学》将变成一个“打破国境”的杂志表示“极欢迎”，并称《开辟》译登青木正儿的文章，“也是打破国境的一种现象”。
1921年1月，梁建植又致函胡适，表示仰慕，希望其赐稿和照片以刊载于《开辟》。由于日本殖民当局压制朝鲜民族主义者与中国进步人士的联系，《开辟》屡遭处罚，此事没有结果。两年后，梁建植参与的《东明》周刊于第2卷第16号（1923年4月15日）刊登了李允宰译胡适的《建设的革命文学论》，并附有胡适的站立照片。译者解题道：“中国文明精华雄浑，经史书集绚烂，诗赋词章灿然极备，旧文学足当世界。胡适的文学革命论一出世，全国一时风靡，破二千年迷梦，精锐步武高扬革命旗，对崇尚陈旧腐败死文学的朝鲜人以深刻刺激，特抄译供诸君参考。”
此后，胡适的思想主张陆续为朝鲜的报刊介绍，如整理国故、新诗创作、哲学思想、中国哲学史和白话文学史等。1925年1月，他应邀为《朝鲜日报》撰文《当代中国的思想界》，该报按语称胡适为“思想界之泰斗，青年界之头领”。1931年，柳根昌在《新生》杂志10月号载文《扭转新中国命运的人物》，其中称胡适具有“英国人的沉着，美国人的创意，德国人的探究心”，是中国学界的代表。而梁建植除继续翻译有关中国新文化和新文学的论文作品，介绍“文学革命首倡者中国的胡适不仅是哲学者，还是诗人”外，还致力于中国古典文学和思想的研究介绍。他先后翻译了戏曲《西厢记》、《琵琶记》、《东厢记》、《四弦秋》、《桃花扇传奇》、《马嵬驿》和小说《水浒传》，发表了《水浒传》、《五字嫖经》、《〈红楼梦〉是非：中国的问题小说》、《元曲概论》、《从艺术上看〈西厢记〉及其作者》等论文，介绍评论中国、日本有关研究和翻译的得失，其中关于《水浒传》、《红楼梦》各文重点评介了胡适的版本考订与观点论据。此外，他还撰写了《现代思想的源泉：老子学说大意》，叙述老子的生平学说，评介欧洲、日本的研究进展和趋势；翻译了章炳麟的《中国文化的根源与近代学问的发达》，主张借他山之石看中国固有学问。
当时朝鲜的思想状况，据1918年到汉城的蒋梦麟描述：“如果说朝鲜青年对日本的态度是仇恨，那么对中国的态度就是鄙夷。年老的一代惋叹充满中国文化的黄金时代已成过去。”梁建植的翻译介绍和研究评论，既批评旧礼教的过度压抑阻碍人性正常发展，又发掘中国传统文化中的积极因素，称赞《西厢记》等作品是人性从礼教下解放的凯旋曲、纪念碑，与胡适主张的中国新文化及整理国故运动较为合拍。20世纪30年代初，梁是非海外文学派的主要成员，但后来事迹竟不显于韩国，只有闵斗基教授关于胡适的近著有所论及。
胡适与朝鲜学者的联系一直持续到第二次世界大战后，20世纪50年代他曾有意访问韩国，因故未成行。1953年台北远东图书公司翻版《胡适文存》及其留学日记，胡适赠送一套给延世大学图书馆，并亲笔题写了赠词。
