山東自古就是中國政治、經濟、文化中心地區之一。公元前21世紀夏朝時期，東夷各 部族就活躍在山東地域。商朝（約公元前17世紀——前11世紀）早期的活動中心在今山東西南部。春秋戰國時期（公元前770——前221）著名的齊、魯兩國是西周（約公元前11世紀——前256）在今山東境內最大的諸侯國。由于齊、魯兩國發達的經濟、政治、文化在中國歷史上的重大影響，所以山東又稱“齊魯之邦”，并以“魯”為山東省的簡稱。 
山東作為地理名稱始于戰國時期，當時，泛指太行山以東的地區。山東作為政區名稱，始于金代（公元1115——1234）。元朝（公元1206——1368）置山東道，明朝（公元1368——1644）設山東布政使司，形成與今天山東省大體相同的版圖，大部分縣名沿用至今。清朝（公元1616——1911）正式設山東省，治所在濟南府。新中國成立后，經過幾次調整，山東省形成了目前的行政區劃。山東省現轄17個市，139個縣、縣級市和市轄區。
山東省的省會濟南市，位于山東省中部，是著名的歷史文化名城，因泉水眾多，被稱為“泉城”。位于山東半島東部的青島為副省級全國計劃單列市，是著名的海濱城市，也是2008年北京奧運會水上項目的協辦城市，是山東省對外開放的“龍頭”。
