Rømø wird 1190 das erste Mal schriftlich erwähnt. Die Insel gehörte dem Sankt Knud Kloster in Odense. 1229 wird die jütische Insel im Erdbuch König Waldemars als Krongut geführt. Der Insel übergeordnet war der Ellumssyssel. Nach 1290 erwarb das Kloster in Ribe Land auf Rømø und gewann nachfolgend an Einfluss.

Bis 1864 war der Südteil der Insel (Sønderlandet) eine Königliche Enklave und gehörte zum Königreich Dänemark. Der Nordteil der Insel (Nørrelandet) unterstand dem Schleswigschen Herzog.

In Østerby sind noch Reste des sogenannten Borrebjergs zu sehen. Der Borrebjerg war wahrscheinlich eine Burganlage aus der Mitte des 14. Jahrhunderts. Die Funktion der Burg ist noch nicht abschließend geklärt. Eventuell war sie gebaut für die Verteidigung der Insel. Die Burg befand sich direkt am Meer.

Im 16. Jahrhundert war die Insel eine bedeutende Seefahrerinsel. Die Insel übernahm dabei zeitweise die Funktion des Hochseehafen für das Nahe Ribe, dessen Hafen für große Schiffe nicht mehr zu passieren war.

Ein Einschnitt in der Geschichte der Insel war der Dreißigjährige Krieg, in dessen Verlauf auch Jütland und Rømø von kaiserlichen Heeren besetzt wurde. Auch die große Burchardiflut 1634 sucht die Insel heim.

Im 17. und 18. Jahrhundert brachte der Walfang großen Reichtum auf die Insel. In der Blütezeit des Walfang stellte Rømø bis zu 40 Kommandeure. Ähnlich wie auf den friesisch besiedelten Inseln wurde zum Abschied der Walfängerschiffe jedes Jahr am 21. Februar am Strand ein großes Feuer angezündet. Pers Awten (Vorabend des Petertages) ist im südlich der Insel gelegenen Nordfriesland auch als Biikebrennen bekannt.

Zwischen dem Deutsch-Dänischen Krieg 1864 und der Volksabstimmung 1920 gehörte Rømø als Teil des Kreises Tondern zu Schleswig-Holstein. Heute gehört die Insel zum Sønderjyllands Amt (Nordschleswig).

Neben dem Hochdänischen wird auf der Insel auch Deutsch gesprochen. Die meisten Inselbewohner sprechen den regionalen südjütischen Dialekt (Rømømål).

Bis zum Zweiten Weltkrieg gab es auf Rømø keinen nennenswerten Baumbestand. Steine mussten vom Festland teuer eingekauft und per Schiff auf die Insel gebracht werden. Darum wurde im 18. Jahrhundert teilweise mit ganz anderen und ungewöhnlichen Rohstoffen gebaut: In dem kleinen Dorf Juvre im Norden der Insel kann man noch heute den Rest eines Zaun aus Walunterkieferknochen aus dem Jahr 1772 bewundern. Der Walknochenzaun wurde 1977 unter Denkmalschutz gestellt und ist der einzige erhaltene Fischbeinzaun auf den dänischen und nordfriesischen Wattenmeerinseln.