ユダヤ人は各地に離散した
しかし、その後、アッシリア、新バビロニアに征服され、バビロンに強制移住された（いわゆる「バビロン捕囚」、紀元前586～538）。捕囚を解かれたヘブライ人（このころからユダヤ人と呼ばれる）はカナーンの地に戻った。
このころ、中東はペルシア帝国が支配したが、その後、ローマ帝国が勢力を拡大し、カナーンはローマの属州となった。紀元66年、ユダヤ人がローマに対して武装蜂起するが、ローマに鎮圧され、ユダヤ人は殺害されたり、奴隷にされたりした。その後、ユダヤ人はカナーンの地から追放され、各地に離散した（ディアスポラ）。カナーンも、ペリシテ人の名前から「パレスチナ」と改名された。
こうして、ユダヤ人は各地に散り、ユダヤ教を民族の絆として、それぞれの地で少数派として生活することになった。
ロスチャイルド家が支援した「シオニズム運動」
19世紀後半から吹き荒れた反ユダヤ主義の嵐、ポグロムに心を痛めたハンガリー出身のユダヤ人ジャーナリスト、テオドール・ヘルツルは、ヨーロッパ以外の地にユダヤ人が安住できる国家を作ろうと考え、行動に移した。これがシオニズムである。
シオンとは、エルサレム南東にある丘の名前である。ユダヤ系財閥のロスチャイルド家は財政的にこの運動を支援した。
シオニズム運動が飛躍したのは第1次世界大戦の時である。当時のイギリスはドイツと戦っていた。そのドイツの同盟国がオスマントルコであり、これを後方から攪乱するために、アラブ人の力を借りようと考えたのである。
そこで、アラブが協力すれば、見返りに戦後にアラブに独立を認めると約束した。これが1915年7月に交わされた、「フセイン・マクマホン協定」である。