泗州古城為“東南之戶樞，中原之要會”，是兵家必爭之地，今泗洪縣為其本州。泗州一帶夏商周時曾屬徐國，春秋戰(zhàn)國時期先后屬吳、越、楚，秦屬泗水郡，漢屬臨淮郡與淮陵郡，北魏時屬南徐州，北周末期改稱泗州，治所在今江蘇省宿遷市鄭樓鄉(xiāng)境內。唐開元二十三年（735年）泗州移治臨淮（今泗洪城南，盱眙城北淮河對岸）。
泗州城地勢低洼，自南宋以來，由于黃河奪泗、奪汴入淮的長期水患，城池經常迫于城危人亡險境。明代，朱明王朝為保其泗州城北祖陵，曾令治黃專家河道總理潘季馴，在今泗洪縣歸仁鎮(zhèn)境內筑歸仁堤以攔水，但終究沒阻擋住洶涌的黃河洪水。清康熙十九年（公元1680年），一場特大的洪水終于將繁華的泗州城淹沒于洪澤湖底。后泗州治所遷在盱眙山腳下數十年。清乾隆四十五年（1777年），安徽巡撫閔某上書請裁虹歸泗，建議將泗州州城遷至虹（即今安徽泗縣縣城），又在州東半城（今屬江蘇泗洪）設州判一員。1912年州廢，泗州本土改稱泗縣。
古泗州始建于1500年前。當年，隋文帝開鑿洛渠，引黃河水，經開封、商丘、靈壁、夏丘至臨淮（今盱眙縣城淮河對岸）入淮。唐開元年間，徙泗州府于臨淮縣。從泗州通過淮河、運河、汴河和長江，可抵南京、開封、洛陽等重要都市，因此，泗州成為重要的交通樞紐和漕運中心，商賈云集，輜銖喧鬧，輝煌了900多年。
400多年前，由于黃河奪汴入淮，洪澤湖水位不斷提高，淹沒線上移，泗州城根長期在水中浸泡，甃筑的城墻基趾日見崩壞，護城河的水位高于城內。到康熙十九年（1680年），古泗州城終于一夜間被洪水淹沒。
近年，由于洪澤湖水位下降和日趨穩(wěn)定，興于唐代開元盛世、毀于清初康熙年間、被中外考古專家譽為“東方龐貝城”的水下泗州古城的邵公堤、城墻和殘存的街市建筑物不時顯現出來，增加了這座神秘水下古城的學術、考古、藝術價值。蜿蜒百里、建于公元200年、被譽為“水上長城”的洪澤湖古大堤，作為古老的有壩引水工程，雖歷經滄桑，但風采依然。
經過南京博物院考古所一年多的考古發(fā)掘，在因洪水肆虐而被深埋水下330多年后，其西南角部分重見天日，并出土了大量文物。目前，專家正會同當地政府商討遺址恢復方案。
