大内密探龙龙九（张家辉）被“剑圣”叶孤城（刘德华）要求代约“剑神”西门吹雪（郑伊健）于九月十五日在紫禁之巅禁宫太和殿上比剑，决出谁是世上剑法第一人。“剑神”“剑圣”比剑一事一号，马上震动武林，江湖中人皆以此为赌资，一时赌风弥漫。朝廷为免滋生事端，派出龙龙九及御妹金燕子（赵薇）共同阻止此次比剑事宜。
金燕子对叶孤城向来倾慕，行动中忘了目的。而龙龙九查得正有一股神秘力量在策划大阴谋，正等九月十五日这个时机。

总督察刘正熙（梁朝伟饰）与妻子金淑珍（徐静蕾饰）过着甜蜜生活。与刘正熙本是同事兼好友的丘建邦（金城武饰），被革去警察职务后当起了私家侦探，终日喝酒至烂醉如泥，因多年前女友自杀身亡令他久久不能忘怀，与卖酒女细凤（舒淇饰）的关系扑朔迷离。金淑珍的父亲，富豪金元胜突然被杀害，矛头直指两个无业游民，可是嫌疑人也在案发的一个星期后被杀害，警方也迅速结案。
但金淑珍觉得案中疑点重重，就拜托丘建邦帮忙。随着案件的逐步抽丝剥茧，发现了意想不到的秘密，以及故意纵火企图杀死金淑珍的元凶。
一个伤心的城市，到底隐藏了多少秘密在其中呢？

1991年，香港黑帮三合会会员刘健明（刘德华）听从老大韩琛（曾志伟）的吩咐，加入警察部队成为黑帮卧底，韩琛许诺刘健明会帮其在七年后晋升为见习督察。1992年，警察训练学校优秀学员陈永仁（梁朝伟）被上级要求深入到三合会做卧底，终极目标是成为韩琛身边的红人。2002年，两人都不负重望，也都身背重压，刘健明渐想成为一个真正的好人，陈永仁则盼着尽快回归警察身份。
重案组从陈永仁手中获悉一批毒品交易情报，锁紧目标人物韩琛，没料情报被刘健明泄出，双方行动均告失败。但此事将双方均有卧底的事实暴露，引发双方高层清除内鬼的决心。命运迥异又相似的刘健明和陈永仁开始在无间道的旅程中接受严峻考验。

1991年，香港黑帮龙头倪坤被杀，倪氏家族旗下五大头目中除韩琛（曾志伟）外，均伺机背叛发难，不料却被倪家不起眼的第二代倪永孝（吴镇宇）不费一兵一卒牵制，此举引来重案祖督察黄志诚（黄秋生）的戒心，使其派出警校学生陈永仁（余文乐）渗入倪家进行长期的卧底工作，而韩琛为了巩固势力，早在警察内部安插了线人刘建明（陈冠希）。三年后，事业蒸蒸日上的倪永孝为安枕无忧，决意将五大头目一举歼灭，却因疏忽让韩琛成为漏网之鱼。
1997年，大难不死的韩琛重出江湖，为替死去的同事报仇，黄志诚找到他商议合作除掉倪永孝的事宜，不久却发现此举铸成大错，而各自为自己的尴尬身份苦恼的陈永仁和刘建明，则在无间道的路上越行越远。

刘建明（刘德华）在陈永仁（梁朝伟）被杀10个月后接受警队内部调查，被架空职权，加上家庭的变故，他的精神状态每况愈下，但他坚信局面很快就会扭转。年轻警司杨锦荣（黎明）在同事看来是怪人一个，他正凭着过人的业绩迈向警队最高层。为了搞清楚杨锦荣的真实身份，刘建明开始对其调查。
刘建明渐渐发现韩琛旧日的生意拍档沈澄（陈道明）与杨锦荣有着千丝万缕的关系，为了置杨锦荣于死地，也为了不让自己的身份曝光，渴望做个好人已久的刘建明开始千辛万苦地找寻一个又一个证据，可是他总在最接近真相时功亏一篑。