Название «Орхус ГФ» отсылает к истокам, мало связанным с футболом: Aarhus Gymnastikforening, то есть «Гимнастический союз Орхуса», был основан 26 сентября 1880 года, а основными его видами спорта были гимнастика и фехтование. Футбольную секцию создали в 1902 году, и первый матч, сыгранный в ноябре того же года против «Орхус Идретсклуб Олимпия», завершился поражением 2:5. Болельщики называют клуб «Хвиде» («Белые») и «Бьенс Холь» («Команда города»). В 1908 году команда выиграла чемпионат Ютландии, а в 1927 году вошла в только что созданный общенациональный турнир.
Провела сезон 1952/53 во втором дивизионе, «Орхус» вернулся в высшую лигу и за следующие двенадцать сезонов завоевал четыре чемпионских титула Дании (1955, 1956, 1957, 1960) и пять Кубков Дании. В тот период клуб получил и первый европейский опыт. В первом розыгрыше Кубка европейских чемпионов (1955/56) «Орхус» проиграл в первом раунде «Реймсу» по сумме двух матчей 2:4, причём три гола за французов забил Леон Гловацки. В сезоне 1960/61, будучи чемпионом страны, команда дошла до четвертьфинала, где уступила будущему победителю турнира — «Бенфике». В том составе играли Хеннинг Эноксен, Генри Фром и Ханс Кристиан Нильсен, серебряные призёры Олимпийских игр 1960 года, а также Йон Амдисен, выигравший с клубом в 1955–1965 годах четыре титула и пять кубков.
Второй период успехов пришёлся на 1980-е годы. Вернувшись в высший дивизион в 1976 году, клуб провёл там тридцать сезонов подряд. В 1982 году команде немного не хватило: ничья 2:2 с «Б-93» в последнем туре отдала титул «Оденсе», а в 1984 году «Орхус» уступил чемпионство «Вайле» на одно очко. Наконец, в 1986 году пришёл пятый титул — благодаря таким игрокам, как Флемминг Повльсен, Ян Бартрам и Йон Стампе; последний сыграл за клуб 444 матча в 1977–1991 годах. Затем были Кубки Дании 1987, 1988 и 1992 годов. В сезоне 1988/89 «Орхус» дошёл до четвертьфинала Кубка обладателей кубков, где проиграл по сумме двух матчей 0:1 будущему победителю — «Барселоне».
Самым памятным сезоном без титула стал 1995/96. Команда, в которой играли Стиг Тёфтинг и Хоувард Фло, долго возглавляла таблицу, но в 30-м туре при счёте 3:3 с «Брондбю» вратарь соперника Могенс Крог сравнял счёт ударом головой — этот гол до сих пор вспоминают как решающий момент той гонки. Чемпионом стал «Брондбю», «Орхус» занял второе место, однако в финале Кубка Дании обыграл того же соперника 2:0. Соперничество с «Брондбю» сегодня считается для клуба главным, а матч с «Ольборгом», известный как «Битва за Ютландию», сводит два старейших клуба региона.
Историческим домом клуба был стадион в Орхусе, открытый 5 июня 1920 года в присутствии короля Кристиана X и построенный по проекту Акселя Хёга-Хансена. Рекорд посещаемости — 23 990 зрителей — был установлен 23 октября 1962 года в матче, который хозяева проиграли «Эсбьергу» 0:4. В 1999–2001 годах арену реконструировали, а в начале 2024 года начался её снос. С февраля 2025 года «Орхус» играет на временном стадионе в Вейлбю на севере города. Новая арена, проект которой разработало бюро Zaha Hadid Architects под рабочим названием «Скувенс Арена» («Лесная арена»), рассчитана примерно на 24 тысячи зрителей, а открытие запланировано на 2027 год.
После 2000 года клуб пережил серьёзные финансовые и спортивные трудности. Он вылетал из высшей лиги в 2006, 2010 и 2014 годах и каждый раз возвращался уже через сезон. С 2014 года клубом руководит Якоб Нильсен, а бронзовые медали сезонов 2019/20 и 2022/23 стали признаком улучшения. В сезоне 2025/26, первом под руководством главного тренера Якоба Поульсена, бывшего игрока клуба, «Орхус» финишировал первым с 67 очками (19 побед, 10 ничьих, 3 поражения). Титул был оформлен победой 2:0 в гостях над «Брондбю» 10 мая 2026 года. Это шестой чемпионский титул в истории клуба и первый за сорок лет, а также путёвка в квалификацию Лиги чемпионов.