ポーランドに住み、ピアニストとして活躍していたユダヤ人ウワディスワフ・シュピルマンは1939年9月、その生活が一変する。第二次世界大戦が勃発し、ナチスドイツはポーランド侵攻を開始、シュピルマンが公開録音をしていたラジオ局はドイツ空軍による突然の爆撃を受け倒壊するが、なんとか脱出する。脱出の混乱時、友人ユーレクの妹ドロタと出会い、以降僅かばかりの友好関係を築く。帰宅した彼は、イギリスとフランスがドイツに対して宣戦布告をしたことを海外のラジオ放送で知り、戦争は早期に終結すると信じて家族と共に喜ぶ。

しかし、状況は好転する事無くワルシャワはドイツ軍に占領され、親衛隊と武装警察による過激的な弾圧によって、ユダヤ人の生活は悪化した。ダビデの星が印刷された腕章をつけることが義務付けられ、1940年後半にはユダヤ人たちはワルシャワのゲットー地区に押し込められ、飢餓、迫害、そして死の恐怖に脅かされた。ある日、親衛隊の命令により、シュピルマンとその家族はその他多くのユダヤ人と共に財産を取り上げられて戸外に集められる。ほどなく彼らは収容所行きの家畜用列車に乗せられるが、シュピルマンだけは知り合いのユダヤ人ゲットー警察署長ヘラーの機転で救われ、その場を逃れる。

家族らと引き離されたシュピルマンは、ゲットー内での強制労働に従事することを余儀なくされる。ここでシュピルマンは、ドイツがユダヤ人抹殺を計画しているらしいこと、そして生き残ったユダヤ人たちが蜂起の準備をしていることを知る。建設労働をさせられていたシュピルマンは過酷な強制労働に耐え切れずに倒れてしまうが、仲間の配慮で倉庫番や食料調達の仕事に換わる。シュピルマンは蜂起への協力を志願し、ゲットーへの武器の持ち込みを手伝う。食料調達のため街（ゲットー外）に出かけた時に市場で知人女性ヤニナを見かけ、彼女を頼ってゲットーの外に脱出することを決意する。

ゲットーを脱出したシュピルマンは、ヤニナとその夫アンジェイが加わる反ナチス地下活動組織に匿われて、ゲットーのすぐそばの建物の一室に隠れ住むようになる。ほどなくユダヤ人たちのワルシャワ・ゲットー蜂起が起こり、シュピルマンは部屋の窓からドイツ軍との激しい交戦を目の当たりにする。蜂起は、ゲットー内のほとんどすべての人が殺される結果に終わる。

その後の1年でワルシャワの状況は一層悪化する。シュピルマンは隣人に存在を気付かれ、最初の隠れ家から逃避しなければならなくなった。アンジェイに手渡されていたメモを頼りにその住所の家を訪ねると、ドロタが出て、ミルカ（ドロタの夫）に匿われる。次の隠れ家はドイツ軍の病院の向かいにあったが、支援者からの食料差し入れが滞り、内臓疾患で死にかけたこともあった。1944年8月、ポーランド人の抵抗勢力はワルシャワ蜂起を起こした。その結果、ワルシャワは壊滅してほとんど住む者もいなくなり、シュピルマンは廃墟の中で完全に孤立無援となった。

ある日、廃墟の中で食べ物をあさっていたシュピルマンは、誰かがピアノを弾くのを聴き様子を見に行く。しかし、演奏をしていたのは連絡拠点設営の下見に来ていたドイツ軍将校ヴィルム・ホーゼンフェルトであった。シュピルマンを見つけたホーゼンフェルトは尋問し、ピアニストであることを知るや、今自分が演奏していたピアノで何か弾くよう命じた…。

第二次世界大戦後のドイツ。15歳のミヒャエルは、気分が悪かった自分を偶然助けてくれた21歳も年上の女性ハンナと知り合う。猩紅熱にかかったミヒャエルは、回復後に毎日のように彼女のアパートに通い、いつしか彼女と男女の関係になる。ハンナはミヒャエルが本を沢山読む子だと知り、本の朗読を頼むようになる。彼はハンナのために『オデュッセイア』『犬を連れた奥さん』『ハックルベリー・フィンの冒険』『タンタンの冒険旅行』といった作品を朗読した。

だがある日、ハンナは働いていた市鉄での働きぶりを評価され、事務職への昇進を言い渡される。そしてその日を機に、ハンナはミヒャエルの前から姿を消してしまうのだった。

理由がわからずにハンナに捨てられて長い時間が経つ。ミヒャエルはハイデルベルク大学の法科習生としてナチスの戦犯の裁判を傍聴する。そしてその被告席の一つにハンナの姿を見つけるのだった。

ローマ在住の大物映画監督サルヴァトーレは、故郷の母からアルフレードが死んだという知らせを受け取る。サルヴァトーレはベッドで寝ながら昔を思い出す。

第二次世界大戦中「トト」と呼ばれていたサルヴァトーレ少年の父は戦争に取られ、彼はシチリア島の辺鄙な村で母と妹と暮らしている。村の唯一の娯楽施設は広場の教会兼用の小さな映画館で、アメリカから輸入された新作のかかる夜には、村人たちはみな映画館に集まり、スクリーンに声援を送るのだった。

映画に魅了されたトトは何度も映写室に入り込んで、映写技師のアルフレードにつまみ出されていた。ある事件をきっかけに2人は親しくなり、アルフレードはトトに映写機の操作を教えるようになった。ある日映画館が火事になり、フィルムを救い出そうとしたアルフレードは火傷で視力を失った。やがて父親の対ロシア戦での戦死が伝えられ、トトは新しく建て直された映画館「新パラダイス座（Nuovo Cinema Paradiso）」で映写技師として働き、家計を支えるようになった。

年月が過ぎ、若者となったトトはムービーカメラを手に入れ、自分でも映画を撮影するようになる。駅で見かけた美少女エレナとの初恋を経てトトは軍隊に徴兵されるが、除隊後村に帰ると映写室には別の男が座り、エレナは音信不通となっていた。落ち込むトトにアルフレードは「若いのだから外に出て道を探せ、村にいてはいけない、そして帰ってきてはいけない」と言ってきかせる。トトはその言葉に従って列車に乗り、ローマに向け旅立った。

30年後、映画人として成功し初老となったサルヴァトーレはアルフレードの葬儀に出席するため、メリディアナ航空の旅客機で年老いた母の待つ故郷の村に帰ってきた。そこで彼は、成人映画専用館となった「新パラダイス座」がすでに閉館し、建物の取り壊しも近いことを知る。サルヴァトーレはアルフレードが彼に遺した形見を渡されるが、中身は少年時代に欲しがった名作のフィルムの断片だった。ローマに戻ったサルヴァトーレはそのフィルムを映写させ、瞬くスクリーンを見上げながら追憶にふけるのだった。。。