חלוקת גרמניה לאזורי הכיבוש הייתה למעשה תחילתה של החלוקה הפוליטית של המדינה, שנמשכה עד שנת 1989. כל אחת מבעלות הברית הפעילה את האינטרסים שלה באזורים שהיו בשליטתה. מהר מאוד התברר שליוסף סטאלין במוסקבה היו מחשבות שונות מאלו של מנהיגי בריטניה, צרפת וארצות הברית. ניגוד האינטרסים החמיר במהלך השנים ובעקבות זאת נוסדו ב-1949 שתי המדינות הגרמניות: הרפובליקה הפדראלית במערב והרפובליקה הדמוקרטית במזרח. באשר לאותה "רפובליקה דמוקרטית", התברר שמדובר בכינוי שנועד להיות מראית עין. כללי הדמוקרטיה לא הופעלו בה באופן מלא. הנהגת ברית המועצות דאגה לייסד ארץ סוציאליסטית-קומוניסטית במזרח, לאחר שהרחיבה את פולין מאות קילומטרים מצד מערב, כך שגרמניה הפסידה חלקים גדולים משטחה. בעלות הברית סבסדו את השטחים תחת שליטתן ותמכו בהתפתחות משטר דמוקרטי בחלקה המערבי של גרמניה. בעקבות זאת, החל בשנות ה-50, התאוששה הכלכלה המערב-גרמנית והגיעה לפריחה חדשה. חלקים גדולים של תעשייה של מזרח-גרמניה פורקו על ידי הרוסים והועברו לברית המועצות כפיצויים, כך שמלכתחילה לא התקיים איזון בין שתי הגרמניות מבחינת הכוח הכלכלי. בהמשך, כללי הכלכלה הקומוניסטיים אף הם לא סייעו להתפתחותה של מזרח גרמניה.
החלוקה הפוליטית מצאה ביטוי גם בגישתן של שתי המדינות כלפי מדינת ישראל. עד שנת 1989, השנה שבה הקיץ הקץ על מזרח גרמניה היא לא הכירה במדינת ישראל. הצד המערבי, לעומת זאת, החל במשא ומתן עם נציגים יהודיים ועם מדינת ישראל על פיצויים לקורבנות השואה, דבר שלא היה מקובל על חלקים מאוכלוסיות ישראל וגרמניה, אם כי מסיבות שונות. בישראל סירבו לא מעט אנשים להיות בקשר כלשהו עם גורמים גרמניים ולא היו מוכנים לקבל כסף כפיצוי על רצח עם. לעומת זאת, תומכי הנאצים (שלא נעלמו מהמפה כליל לאחר שנת 1945) התנגדו ל"מתן מתנות" ליהודים. למרות הקשיים, הסכם השילומים נחתם בשנת 1952 בלוקסמבורג. בעקבות ההסכם נעשו צעדים נוספים בתחום הכלכלי וב-1960 נפגשו רשמית, בניו יורק, ראש ממשלת ישראל דוד בין-גוריון וקנצלר מערב גרמניה, קונרד אדנאואר.
שנות ה-60 היו עדות לשינוים ולהתפתחויות רבים: בשנת 1961 הוחרפה חלוקת גרמניה בשל בניית החומה בין שני החלקים של ברלין ובבניית גדר גבול בין שתי המדינות. בישראל ובגרמניה התנהלו משפטים חשובים נגד נאצים: בישראל נערך "משפט אייכמן" ובגרמניה המערבית נערך "משפט אושוויץ", שניהם זכו לליווי תקשורתי משמעותי מאוד. בשנת 1965 הסכימו ממשלות ישראל ומערב גרמניה סופית לכונן ביניהן יחסים דיפלומטיים. בהמשך נעשו צעדים נוספים, בלתי-רשמיים, להתקרבות בין שתי המדינות, כמו תרגום של יצירות ספרות מגרמנית לעברית ולהפך. בשנות ה-70 טלטלו את החברה המערב-גרמנית מעשי טרור שבוצעו על ידי קבוצות בשמאל הרדיקלי. קבוצות טרור אלו שיתפו פעולה עם ארגונים פוליטיים פלסטיניים וכן עם ארגוני טרור פלסטיניים. הפיגוע נגד ספורטאי ישראל במשחקים האולימפיים במינכן, בשנת 1972, וכן חטיפות של מטוסים (מטוס חברת "אייר פרנס" שהיה במוקד "מבצע אנטבה" נחטף על ידי טרוריסטים פלסטיניים וגרמניים) היו ביטוי למציאות זו. יחד עם זאת, באותן שנים התחילו מתנדבים גרמניים צעירים לבוא לישראל, להתנדב לתקופה בקיבוצים, כדי להכיר את הארץ ואת תושביה.
בשנות ה-80 התקרבו שתי המדינות הגרמניות זו לזו, והמשטר הקומוניסטי במזרח נחלש, כלכלית, וגם אידאולוגית. בסתיו 1989 הובילו בריחת אזרחים למערב והפגנות ענק להתמוטטות המשטר הקומוניסטי ובסופו של הדבר לנפילת חומת ברלין, שאירעה ב-9 בנובמבר. יחד עם ההתפתחות ההיסטורית הזאת, אירעו שינויים דומים כמעט בכל המדינות של הגוש הקומוניסטי, דבר ששינה את פניה של אירופה באורח מוחלט. שנה לאחר מכן אוחדו שתי המדינות לרפובליקה הפדרלית הגרמנית הנוכחית.
