Клубот е основан под сегашното име во 1966 година, но неговото постоење може да се проследи уште од 1906 година, кога била основана екипата ФК Олимпија Обершеневајде претходникот на денешниот Унион Берлин. Најголемиот дел од својата историја Унион Берлин ја поминал играјќи во регионалните лиги, сè до 2001 година кога за првпат избориле промоција во 2. Бундеслига. Сепак, таму се задржале само три сезони по што дошло до стрмоглав пад на клубот и две испаѓања по ред по што се нашле во Оберлигата во сезоната 2005-2006, во која избориле промоција и повторно се вратиле во регионалните лиги. Од 2008 година клубот учествувал во новоформираната третата лига и станал првиот нејзин победник во сезоната 2008-2009, со што избориле промоција и враќање во 2. Бунделига по пет сезони. Во следните 10 години Унион Берлин бил редовен учесник на 2. Бундеслига, сè до нивната прва историска промоција во 1. Бундеслига во сезоната 2018-2019 под водството на сегашниот тренер швајцарецот Урс Фишер.
Својте домашни натпревари Унион Берлин ги игра на стадионот Ан дер Алтен Форстереи, кој е најголемиот еднонаменски фудбалски стадион во главниот град на Германија.