公元前100年，匈奴新立的单于派使者带来书信，表示两家要永远和好，并放回以前扣留的汉使。为了答复匈奴的好意，汉武帝派了出身于将门的苏武为大使，拿了使节（就是当时表示使臣的凭信，用竹杖和牛尾做成）出使匈奴，并送还以往汉朝扣留的匈奴使臣。跟随苏武前往的，有副使张胜、随员常惠等一百多人。
苏武在匈奴办完事情、准备回来时，发生了一件意想不到的事：
早在苏武出使匈奴之前，汉朝有一个叫卫律的使臣，投降匈奴后被封为丁灵王，得以重用，他手下有一个人叫虞常，不愿跟卫律一起在匈奴生活，想杀死卫律后再回汉朝去，苏武到匈奴后，同去的副使张胜是虞常早年的朋友，虞常便和张胜商量，准备杀掉卫律，然后劫持单于的母亲归汉，这件事被人告发，虞常被单于抓捕，张胜非常害怕，只好把事情的经过告诉苏武，苏武急得说：“这件事肯定会连累到我，如被审讯，会使国家受侮辱。”说着要自杀，被旁人拉住。后来，匈奴单于命卫律召苏武受审，苏武对他的跟从常惠说：“事情到了这个地步，为了免受污辱，还是死了的好！”说罢拔刀自杀，顿时身受重伤，经抢救总算没有死。
匈奴单于对苏武非常钦佩，要卫律设法让他投降，卫律用武力威胁，用富贵劝诱，想尽一切办法都不能使苏武投降，结果反被苏武痛骂了一顿。
匈奴单于知道后，对苏武更加敬重，越发想使他投降。他下令把苏武关在一个阴暗的地窖中，不给吃喝，企图用饥饿和寒冷迫使他投降，但苏武毫不动摇，他吃融化的雨雪，吞咽睡觉用的毡子，四五天过去，仍然活得很好。单于见他几天都没有饿死，非常惊奇，就把他放出来，送到荒无人烟的北海去放羊。单于给了苏武一群公羊，对苏武说：“什么时候这些羊生了小羊羔，你就可以回长安了。”苏武在这样荒凉寒冷的地方放羊，粮食不够了，就捉野鼠和挖草籽充饥。他始终不忘汉朝，牧羊时手里拿着汉朝的使节，尽管使节上的牛尾全部脱落了，苏武就是不肯屈服。后来，匈奴单于又派来苏武早年的好友，已经投降匈奴的李陵前来 劝降，苏武还是坚决拒绝了。
就这样，苏武被匈奴扣留了十九年，直到后来匈奴和汉朝和好，他才被放了回来。了壮年出使，归来时头发、胡须已全白了。当初一百多人同往匈奴，跟他回来的已经只剩下常惠等九人了。苏武当年出使匈奴时的使节还一直握在他的手中，亲自交还汉武帝。汉武帝非常感动，封他为典属国（掌管少数民族事务的官员），以表彰他的功绩。
苏武那威武不屈，坚韧不拔的性格的崇高的爱国主义精神，将永远载入历史史册。
