El Rio Ave FC fue fundado el 18 de enero de 1939 en Vila do Conde, una localidad costera del norte de Portugal situada a poco más de veinte kilómetros de Oporto. Lo creó un grupo de cinco personas, y el club tomó su nombre del río Ave, que atraviesa la ciudad y desemboca allí en el Atlántico. Disputó su primer partido el 6 de mayo de 1939 en Beiriz y perdió ante el equipo local. Durante las décadas siguientes jugó fútbol regional, y desde los años setenta empezó a ascender en la pirámide futbolística. Para sus aficionados es el «Rio Grande», el Gran Río, aunque el club siempre ha vivido con modestia, y sus colores son el verde y el blanco.
El Rio Ave llegó a la Primeira Liga solo en 1979, cuarenta años después de su fundación, y descendió tras la primera temporada. El punto de inflexión llegó en los años ochenta, cuando Félix Mourinho, padre de José Mourinho, se convirtió en entrenador, y José también trabajó en el club. Bajo su dirección el Rio Ave terminó quinto en la liga en 1981/82, lo que durante décadas siguió siendo el mejor resultado de su historia. Se acercaba además un momento que el club no olvidaría jamás.
En 1984 el Rio Ave, contra todo pronóstico, jugó la final de la Copa de Portugal en el estadio Jamor. En el camino eliminó, entre otros, al rival local, el Varzim, en octavos de final, tras una tanda de penaltis. En la final se enfrentó al FC Oporto y perdió 4-1. La imagen de aquel partido perdura por otro motivo: los jugadores del Rio Ave saltaron al campo con barbas muy pobladas, y los «barbudos de Vila do Conde» se convirtieron en uno de los símbolos de aquella época del fútbol portugués. Una temporada después el club descendió.
En los años noventa y a comienzos del siglo XXI el Rio Ave ganó varias veces la segunda división, en 1995/96 y 2002/03, y cada vez volvió a la élite. Con las sucesivas generaciones de jugadores, el club fue forjando su nombre como un lugar donde se pulen jóvenes talentos. Por sus filas pasaron, entre otros, el portero Jan Oblak, el centrocampista Fabinho y el delantero Mehdi Taremi, y en el banquillo creció Nuno Espírito Santo.
El punto culminante llegó en 2013/14. Bajo la dirección de Nuno, el Rio Ave alcanzó dos finales en una misma temporada: la Copa de Portugal y la Copa de la Liga. En la final de la Copa de Portugal el club perdió 1-0 ante el Benfica, pero ese resultado le dio su primera participación europea. En la Liga Europa 2014/15, con Pedro Martins en el banquillo, el Rio Ave eliminó a los clubes suecos IFK Göteborg y Elfsborg para llegar a la fase de grupos, y marcó el gol de la victoria en el tiempo añadido de la vuelta contra el Elfsborg.
Los años siguientes trajeron dos quintos puestos en la liga, en 2017/18 y 2019/20, y otra noche europea memorable. En 2020, en una eliminatoria previa de la Liga Europa, el Rio Ave empató 2-2 en casa con el AC Milan y perdió la tanda de penaltis por 9-8, una de las más largas de la historia de las competiciones europeas. El club descendió poco después de la Primeira Liga, pero ganó la segunda división en 2021/22 y regresó a la máxima categoría. Ese ritmo de caídas y regresos es, de hecho, su sello distintivo.
La casa del club es el Estadio dos Arcos, oficialmente Estadio do Rio Ave FC, construido en 1984, el año de su final más famosa. Su nombre procede del acueducto del siglo XVIII de Vila do Conde, cuyos arcos se alzan junto al terreno de juego. El estadio es el símbolo de un club que, a pesar del pequeño tamaño de su ciudad, ha sabido plantar cara a los más grandes e inscribir su nombre en la historia de las competiciones europeas.