El 8 de mayo de 1974, en el estadio De Kuip de Róterdam, el 1. FC Magdeburg derrotó por 2-0 al vigente campeón, el AC Milan, en la final de la Recopa de Europa, con el segundo gol de Wolfgang Seguin. El partido reunió a menos de 5.000 espectadores, pero dio al club el único trofeo europeo que ha ganado jamás un equipo de la Alemania Oriental. La plantilla del Milan incluía nombres de talla mundial como Gianni Rivera y Karl-Heinz Schnellinger, lo que convierte el resultado en uno de los más sorprendentes de la historia de la competición. Aún hoy define cómo se percibe al club en Alemania y fuera de ella.
El club nació en diciembre de 1965 a partir de la sección de fútbol del club deportivo SC Magdeburg, que ya había sorprendido al fútbol de la RDA al ganar la FDGB-Pokal en 1964. Contando esa victoria y la de 1965, el Magdeburg ganó siete veces la copa de la RDA (1964, 1965, 1969, 1973, 1978, 1979 y 1983) y las siete finales terminaron en victoria. En la Oberliga conquistó tres campeonatos, en 1972, 1974 y 1975. La época más exitosa está ligada al entrenador Heinz Krügel, que dirigió al equipo de 1966 a 1976, ganó con él tres ligas y la Recopa, y es recordado por negarse a que la política dictara sus alineaciones. Con él, el equipo se hizo famoso por un fútbol joven y ofensivo.
Aquella generación dio varios internacionales. Jürgen Sparwasser marcó el único gol de la victoria de la RDA sobre la RFA en el Mundial de 1974, pocas semanas después de la final de Róterdam. Wolfgang Seguin disputó 19 partidos con la RDA y 57 encuentros europeos con el club, que sigue siendo un récord, mientras que sus 219 partidos consecutivos de Oberliga entre 1971 y 1979 son una curiosidad estadística duradera. También formaron parte del equipo que ganó en Róterdam Martin Hoffmann, Manfred Zapf y Jürgen Pommerenke.
Tras 1989 el club atravesó años difíciles y no volvió al fútbol profesional hasta 2015, cuando ascendió a la 3. Liga. Una noche memorable llegó el 1 de noviembre de 2000, cuando el Magdeburg eliminó al Bayern de Múnich en la segunda ronda de la DFB-Pokal, ganando 5-3 en la tanda de penaltis ante 26.000 espectadores. El primer ascenso a la 2. Bundesliga llegó en 2018, el descenso un año después, y en 2021-22 el club ganó la 3. Liga con 78 puntos y 83 goles para regresar a la segunda categoría. En 2022-23 la asistencia media en casa fue de 22.602 espectadores, y la temporada 2024-25 terminó en quinta posición, el mejor resultado del club desde la reunificación. En 2025-26 el Magdeburg era último tras ocho jornadas con solo tres puntos, pero logró evitar el descenso, y 2026-27 es su quinta temporada consecutiva en la 2. Bundesliga.
El club viste de azul y blanco y es uno de los más seguidos de Alemania fuera de la máxima categoría; en 2017-18 los partidos en casa reunían de forma habitual a unos 18.000 espectadores y a los encuentros a domicilio viajaban de media más de mil aficionados. El antiguo Ernst-Grube-Stadion, con sus característicos mástiles de iluminación, acogió las noches de liga y de competición europea de las décadas de 1960, 1970 y 1980. Tras una decisión municipal de 2004, una nueva arena de 31 millones de euros lo sustituyó en 2006, y los aficionados vinculan informalmente el recinto con el nombre de Krügel. El Magdeburg sigue siendo el único club de la RDA cuyo nombre está unido para siempre a un trofeo europeo, y ese recuerdo se renueva en cada partido en casa.