人与人之间的交往贵在一个“诚”字，唯有以心相交才能得到真正的朋友。
春秋战国时期，晋国的士大夫俞伯牙是一个擅长操琴的音乐家。他从小就酷爱音乐，曾在当时著名的乐师威连先生门下学习弹琴。伯牙天资聪颖，加上勤奋刻苦，虚心求学，在先生的指导下，伯牙的琴艺得到迅速提高，演奏乐曲的技艺，无人能及，一时之间名扬各国，享有很高的声望。
有时，为了练琴，他还不远千里专程跑到东海的蓬莱，那里鸟语花香，山高水美，环境幽雅宜人。伯牙常常被这种自然的美妙气息吸引，沉浸在宁静的氛围中全身心地弹奏乐曲，心无杂念，达到完全忘我的境界。因此，他弹出的曲子往往妙不可言，绕梁三日，余音不绝，令人称奇。只可惜，自从学成出师后，伯牙再也遇不到一位像老师那样的知音人。思及此，他的心中充满了寂寞和遗憾，经常抚琴慨叹。
一次，伯牙到楚国去，正在长江上航行时，突然狂风大作，江面上白浪滔天。伯牙只好命人将船停泊在安全的地方。他停船之地，就是现在的湖北汉阳江口。这一天，正好是八月十五，中秋月圆。傍晚时分，月色如水，轻撒下淡淡的清辉，照得四周一片明朗，加上风平浪静，时时传来江水拍岸的轻响，整个景色如诗如画，令伯牙陶醉不已。他兴致所至，心情畅快地拿出自己随身携带的古琴，来到岸边一块凸起的大石块上，对着汉水明月，抚琴抒怀，直弹得如痴如醉。就在浑然忘我之时，“登”的一声，琴弦断了。
这时，从山崖背后突然走出一个人来，连声夸赞伯牙的琴艺。伯牙吃了一惊，心里十分诧异：自己走遍各国，也未能寻到知音，不知道这突然冒出来的人是谁？他借着清朗的月光一看，更是惊讶，来人竟是一身樵夫打扮。
伯牙十分有礼貌地向这樵夫询问，两人攀谈起来。这人名叫钟子期，颇为精通音乐。伯牙为了考考他，提出了一系列音乐上的问题，他都对答如流。伯牙既惊且喜，连忙请子期上船，吩咐童子设案置酒，两人一面饮酒赏月，一面倾心交谈。伯牙说：“足下既知乐理，不知道可不可以效仿颜回闻孔子鼓琴而知孔子有贪杀之意的故事，也来听听我抚琴时的思念呢？”钟子期点了点头，说：“那就姑且试试看吧，若是猜不着，还望大人不要见罪。”
伯牙于是将断弦重新调整好，沉吟半晌，开始抚弄起琴来。只听得声音雄壮而高亢。伯牙刚刚停手，钟子期就赞叹道：“美哉！嵯峨乎志在高山。”伯牙微笑着，沉默不语。他凝神静气一会，将琴再一次抚弄起来，这次琴声淙淙若山涧溪水，清新流畅。一曲刚终，钟子期就脱口而出：“美哉！洋洋乎意在流水。”
钟子期的两次赞美都道出了伯牙的心事，伯牙惊叹不已，欣喜若狂，连忙推琴而起，热情地向子期再施宾主之礼，连连致歉：“失敬失敬，常言道山中之石藏有美玉，伯牙最初以衣帽取人，差点错失了一位贤士。”子期急忙还礼，说：“我就住在附近的马鞍山集贤村，平素爱好音乐，稍有研究，刚才隐隐约约听到有人抚琴，所以循声而来。我久仰先生大名，今日得见，实在三生有幸。”两人一见如故，相谈甚欢。伯牙主动向子期提出，愿结为异性兄弟，以不负两人知音一场。当下，两人便在船中向苍天跪拜，伯牙年长一岁为兄，子期为弟。
伯牙还要返回晋国复命，不能久留，两人依依不舍地告别。临走时，两人约定好伯牙明年中秋再来此地相会。
第二年中秋节，伯牙如期来到汉阳江口。可是等了许久也不见子期到来，心里焦急不安，便操起琴来，借琴音遣怀。他弹了一曲又一曲，感怀去年此时的偶遇，欣喜于陌路逢知音，迫切地希望能见到故人。琴声悠扬，一直传到很远的地方，可是子期还是没有来。伯牙忧心忡忡，深知子期不是背信之人，肯定出了什么事，只好背着琴，朝集贤村的方向找去。
这时，天已大亮了。一轮红日喷薄而出，四处都染上了一层清淡的金色，明朗清新，煞是好看。只是伯牙再也无心观赏美景，视若无睹地向前赶路。自然也没有注意到岸边有一座面对汉水的新坟。远远地，他看见有个人朝自己走来，以为是子期姗姗来迟，满心欢喜，一边挥手示意，一边急匆匆向那人走去。待走近一看，来人是一个慈祥的老人。伯牙有些失望，但还是谦恭地向老人作了一个揖，询问起集贤村和钟子期的家。老人一听，老泪纵横，悲痛地告诉伯牙，他就是子期的父亲，子期劳累过度，不幸染病，前不久已经不治而亡了。这个噩耗有如晴天霹雳，一下子让伯牙震住了，他悲从心来，大呼一声便晕了过去。
伯牙醒来后，老人告诉他：“子期临死前再三提到，他去年曾和先生相约，八月十五在江边相会。他再三叮嘱我们，一定要把坟墓修在江边，面对汉水，为的就是在九泉之下也能听听先生的琴声。先生你看，前面那座新坟就是他的……”伯牙悲痛欲绝，一路跌跌撞撞，摔倒了好几次才来到子期墓前。他颤抖着抚摸坟前长出的新草，跪拜在地，回想起与子期相交的种种，情不自禁伏在坟上哀哀痛哭起来。老人在一旁也不禁跟着落下泪来，相劝了好久，伯牙才起身。老人说：“先生，子期生前常常提及你的琴声天下无人能及，十分喜爱，你就弹奏一曲以慰他在天之灵吧。”
伯牙这才擦擦泪眼，盘膝席地而坐，弹奏起那支流传至今的名曲——《高山流水》。琴声呜咽，如泣如诉，听者为之落泪。弹罢，他从衣夹间取出手刀，先割断琴弦，再双手拿琴，高高举起，向祭台用力一摔，直摔得玉轸残破，金徽凌乱。
老人吓了一跳，“先生，你这是怎么了？”边说着，边弯腰去捡瑶琴的碎片。伯牙搀扶起老人，无限凄苦地说：“琴为知音而生，如今知音既逝，琴留着又有何用呢？伯牙此生再也不会抚琴了。”
伯牙含泪向子期坟台告别而去。从此，再也没有人能听到伯牙那无与伦比的《高山流水》。“高山流水”因此成了知音的代名词。
后来，人们为了纪念这两位“知音”的友谊，特地在龟山尾部的小山上筑起一座古琴台，并将这座小山取名为碎琴山，在距汉阳十余里的地方还有一个琴断口，相传就是伯牙当年摔琴的地方。还有人专门写诗吟咏这段千古佳话：
摔碎瑶琴凤尾寒，子期不在对谁弹！
春风满面皆朋友，欲觅知音难上难。
