La UD Las Palmas se creó el 22 de agosto de 1949 con la fusión de los cinco clubes principales de la ciudad: el CD Gran Canaria, el Atlético Club, el Real Club Victoria, el Arenas Club y el Marino FC. Las conversaciones se prolongaban desde febrero de 1949, y el impulso decisivo llegó el 6 de junio de 1949, cuando la federación española aceptó incluir un campeonato de Canarias en las ligas nacionales. Se descartó una primera idea de nombre, Deportivo Canarias, porque hacía referencia a todo el archipiélago y no a la isla de Gran Canaria. El nuevo club realizó su primer entrenamiento el 16 de septiembre de 1949 y disputó su primer partido el 9 de octubre en el Estadio Insular, ante el Marino FC, que jugaba su último partido profesional. El Insular se había inaugurado en 1944 como casa del Marino.
El club ascendió con rapidez desde el principio. En su primera temporada, 1949-50, fue segundo en Tercera División y ascendió a Segunda División, y un año después, tras ser tercero en Segunda, llegó a Primera. Fue el primer club de España en ascender en cada uno de sus dos primeros años de existencia. El apodo del equipo es Los Amarillos y sus colores son el amarillo y el azul.
La época dorada del club comenzó con su regreso a Primera en junio de 1963. En 1967-68 la UD Las Palmas fue tercera con 38 puntos y en 1968-69 segunda, solo por detrás del Real Madrid, que le sacó nueve puntos. El máximo goleador de aquel equipo fue José Manuel León, con 11 goles, y entre las leyendas del club figuran también Germán Dévora, Juan Guedes, Tonono, Paco Castellano y Gilberto I. En 1971-72 el club fue quinto y volvió a clasificarse para competiciones europeas.
El segundo puesto en la liga dio a la UD Las Palmas una invitación a la Copa de Ferias 1969-70, su primera aparición en Europa. En la primera ronda se enfrentó al Hertha BSC y quedó eliminado tras un 0-0 y un 0-1. Debutó en la Copa de la UEFA en 1972-73 y participó por última vez en 1977-78, y en total disputó 10 partidos en esa competición: cuatro victorias, dos empates y cuatro derrotas, con un balance de goles de 20-16.
El mayor éxito copero del club llegó en 1977-78. La UD Las Palmas alcanzó la final de la Copa del Rey, en la que perdió ante el FC Barcelona en el Santiago Bernabéu de Madrid. Sigue siendo su única final en la competición y, junto con el subcampeonato de 1969, constituye lo más grande de su historia.
Tras los años de éxitos llegó un largo periodo de crisis. En 1991-92 el club descendió a Segunda División B, la tercera categoría, por primera vez en su historia, y aquel descenso se considera uno de los peores momentos de la entidad. El Estadio Insular fue sustituido por el Estadio Gran Canaria, inaugurado en 2003, que es hoy el hogar del club.
La UD Las Palmas ha pasado más de tres décadas en Primera y los expertos la consideran el club más representativo de Canarias en el fútbol español. Su historia, desde la fusión de cinco clubes locales, pasando por el subcampeonato de 1969, hasta la final de Copa de 1978, demuestra que un equipo de una isla lejana a los centros del fútbol español pudo competir con los más grandes.