1976年北京的夏天，男孩周青（殷宗杰 饰）带着被父亲剃了一半的头发，和朋友小莫跑向了一截长城的遗址，在那里周青拾到一本残缺的小人书——《钢铁是怎样炼成的》。周青在地震期间看到男青年纪文（李强 饰）的吉它，以及纪文还在上高中的女友绍英（朱洁 饰）。不久四人帮倒台，周青开始在纪文的乐队中担任乐手，这段少年生活很快在纪文与绍英的纷争中宣告结束。周青进入了货运站开始强劳动力的工人生活，强壮火车司机朱赫莱（田壮壮 饰）成为了他心中的榜样，两人的相识以朱赫莱用自己的腿骨挽救遭遇事故的周青结束。一晃多年，八十年代末，周青（朱洪茂 饰）结束在海外的学艺回到北京，面对使他倍感陌生的北京摇滚圈，理想主义者周青无所适从，只能凭借寻找朱赫莱的执念在城市中继续游走……

少年宫的老教师顾小玉正在积极筹备全市少年儿童合唱节，但事情办得很不顺利。孩子们因作业太多或因家长不支持，总不能按时排练，并且，少年宫合唱队想请名作曲家刘元教授写支歌曲，为合唱节增辉，竟也遭冷遇。无奈她只好亲自登门去恳求刘元的帮助，毕竟他们是过去的音乐学院的老同学。顾小玉每天都接到许多封来自各个学校的和孩子们的信。她总是热情处理着信中提出的要求和问题。她看到了一封希望顾老师能在他出狱时去接他的来信。顾小玉很吃惊，但她还是来到监狱。刑事犯郑启天曾经是顾小玉的学生，现在他已刑满释放。因分别多年，顾小玉不知哪个学生，更记不清他的模样了。当郑启天看到他的顾老师就站在眼前，却又认不出他时，他便悄然离去顾小玉却仍在监狱门前等待。

本片以“儿子”铁头的视角，追忆了1953年至1967年大陆几次政治运动中的三位父亲（爸爸、叔叔和继父）及母亲陈树娟（吕丽萍）的形象。有关“爸爸”林少龙（濮存昕）的最初回忆美好单纯，可是在他于反右派斗争中被划为右派后，一切都变了样，母亲在焦急等待中，等来他被一棵倒下来的大树压死的消息；随后，爸爸的好友李国栋（李雪健）李叔叔走进铁头与母亲的生活，“叔叔”是很好的人，可是在大跃进后期的大荒中，也因积劳成疾死去；紧接，母亲的第三任丈夫老干部（郭宝昌）成了铁头的“继父”，一开始铁头对他没有任何好感，就在两人握手言和之际，“继父”在文革中被造反派批斗致死，母亲也被划成反革命分子。