1968年，按照以色列的兵役法，拉宾功成身退，退出现役。告别了给他带来眩目光圈的军营。他没有按照父母的殷殷希望，回到基布兹去作一名农业工程师，而是步入政界，担任了梅厄政府的驻美大使，开始了他长达五年的外交官生涯。这是一个菲常关键的职务，当时美国国务卿基辛格正在中东地区进行穿梭外交，谋求阿以和解。拉宾与这位蜚声世界的犹太兄弟保持了良好的关系。他自己也自从参加罗得岛的阿以和谈以后，再次投入了中东和平事业。
1973年，拉宾回国，出任劳工部长。第四次中东战争后，拉宾当选为议员，次年当选为工党领导人，大选中，工党获胜组阁，拉宾出任内阁总理。
作为以色列第一位土生土长，并且出身于军营的总理，拉宾给处于第四次中东战争虽胜犹败的以色列带来了一股生气。是的，以色列在这次战争中人员损失惨重，拉宾对于这个问题有自己的看法，人要是都打光了，还要土地来干什么？同时，这次战争也给了以色列一个警告，阿拉伯国家也可以打闪击战，也可以主动攻击以色列。拉宾知道，目前的中东，谁也不可能吞掉谁。以色列要得到永久的和平，犹太人要得到永久的安静，只有和平一条路。
任总理期间，拉宾为中东和平作出了不懈的努力。他采取了一种积极而务实的对外政策。分别与叙利亚和埃及签订了“军事脱离”协议，又在美国调解下签订了著名的《埃以双方谅解备忘录》，他还数次访问约旦，为后来的约旦与以色列的和解铺平了道路。尤其值得称道的是在任总理期间，拉宾为埃以和解做出了巨大的努力，在他辞职前，他设法和埃及总统萨达特取得了联系，为继任的总理贝京最终实现埃以和解和萨达特出入意料地访问耶路撒冷铺平了道路。
然而在1976年12月，拉宾却因在安息日组织军官及部分内阁成员欢迎美国的F-15飞机，触怒了在以色列颇有影响的宗教政党，有违圣训是不可饶恕的。雪上加霜的事是，四个月后，拉宾夫人利娅非法在美国存款一事被揭露，拉宾被迫辞职。
1984年9月，拉宾东山再起，出任国防部长，1990年卸任。此时，世界和平的大趋势已经出现，东欧与苏联不再与西方对抗，海湾战争使中东的敌友格局重组。这一切都深深影响着拉宾。1992年，拉宾再度当选为工党主席，同年6月，工党在大选中获胜，拉宾二度出任以色列总理。
就任总理以后，拉宾更是为推动中东和平进程做出了积极的努力。他立即开始与阿拉法特直接接触，并接受了以土地换和平的主张，试图积极谋求最终解决阿以争端。
1993年1月，挪威首都奥斯陆郊外的一座古老庄园。屋内的熊熊炉火与室外的滚滚寒流构成了强烈对比。在厚重的窗帘之下，一个世纪以来的仇敌，中东两大对立阵营的领导人，阿拉法特和拉宾坐在了一起……
8个多月过去了，1993年8月29日，耶路撒冷，以色列的内阁会议室里，总理拉宾用平静的语调向部长门宣布，经过多次谈判，以色列外交部长佩雷斯已于8月20日在挪威首都奥斯陆与巴勒斯垣解放组织草签了秘密协议，加沙和杰里科地区将交给巴勒斯坦人自治。从此，最为棘手的巴勒斯坦人和犹太人的“家”的问题已经看到了最终解决的曙光。
1993年11月13日，明丽的秋阳照耀着美国白宫的南草坪。巴以第一个和平协议——加沙一杰里科自治原则宣言的签字仪式在这里举行。在全世界的注目之下，拉宾同另一位中东和平的缔造者、巴勒斯坦人的领袖阿拉法特终于握手言和，化干戈为玉帛。
由于他对中东和平的巨大贡献，在国际上赢得了广泛的赞誉，1993年9月17日联合国教科文组织授予拉宾“博瓦尼和平奖”。1994年，拉宾获诺贝尔和平奖，以表彰他为推动中东和平进程所作的努力。1994年他又获“阿斯图里亚斯王子1994年度国际合作奖”。
1995年，拉宾又进一步与阿拉法特会谈。新年伊始，他就公开说，他希望今年能成为以色列与阿拉伯世界达成全面和解的“和平之年”。
1995年9月28日，拉宾再次来到美国白宫的南草坪，同阿拉法特共同签署了关于扩大巴勒斯坦自治范围的《塔巴协议》。根据协议，以色列将在10天后开始从约旦河西岸撤军，6个月后完成第一阶段撤军，巴勒斯坦权力机构管辖的范围将扩大到西岸27%的地域。至此，巴勒斯坦国的雏形已经出现。以色列极右势力则哀叹：“大以色列之国”从此破灭……
对此，正如拉宾在他的最后的和平演讲中所说的那样：
“我们已经找到了一位和平伙伴，那就是巴勒斯坦解放组织。它过去是敌人，现在它已经停止恐怖活动。没有和平伙伴就没有和平。为了解决以阿冲突中最复杂、最持久、最敏感的部分——巴以冲突，我们要作出自己的努力，巴解也要作出自己的努力。我相信，在这里的绝大多数人支持和平，愿意为和平去冒任何危险……”
