Τα σημερινά σωζόμενα τείχη είναι ερείπια βυζαντινού οχυρού το οποίο, κατά τον λαογράφο Στίλπωνα Κυριακίδη, ανεγέρθηκε τον 4ο αιώνα μ.Χ. από τον αυτοκράτορα Θεοδόσιο Α΄. Στη Ρωμαϊκή εποχή ήταν ένα από τα πολλά διάσπαρτα φρούρια κατά μήκος της Εγνατίας οδού, τα οποία υπήρχαν στην περιοχή της Θράκης. Πιθανή θεωρείται η ταύτισή της με τον ρωμαϊκό σταθμό Breierophara (πρόκειται για σύνθετο θρακικό τοπωνύμιο : βρε [= κάστρο] +iero [= ιερό] + phara [= para = πόρος, πέρασμα] ). Σημαντικότερη πόλη εκείνη την περίοδο ήταν η γειτονική Μαξιμιανούπολη, η παλαιότερη θρακική Πορσούλις ή Παισούλαι, η οποία μετονομάστηκε σε Μοσυνούπολη τον 8ο-9ο αιώνα. Η Κομοτηνή αποτελούσε κόμβο της Εγνατίας οδού προς τη βόρεια κατεύθυνση που, μέσα από το πέρασμα της Νυμφαίας, οδηγεί στην κοιλάδα του Άρδα, τη Φιλιππούπολη (σημ. Πλόβντιβ) και τη βυζαντινή Βερόη (σημερινή Στάρα Ζαγόρα).
Κατά τη Μεσοβυζαντινή περίοδο ανήκε στο Θέμα Μακεδονίας, ενώ από τον 9ο αιώνα έγινε η υπαγωγή της στο νεότευκτο Θέμα Βολερού. Έως τότε αποτελούσε φρούριο ήσσονος σημασίας. Όμως το 1207, ύστερα από την επιδρομή του τσάρου της Βουλγαρίας Ιβάν Α΄, αποτέλεσε καταφύγιο προσφύγων από τα γύρω φρούρια που καταστράφηκαν. Πολλοί κάτοικοι της Μοσυνόπολης (πρώην Μαξιμιανούπολη) κατέφυγαν τότε στην Κομοτηνή και ο πληθυσμός της συνέχισε να αυξάνει μέχρι του σημείου να εξελιχθεί σε σημαντικό αστικό κέντρο της περιοχής. Το 1331 ο Ιωάννης ΣΤ΄ Καντακουζηνός την αναφέρει ως Κουμουτζηνά. Ένα χρόνο αργότερα ο Ανδρόνικος Γ’ Παλαιολόγος στρατοπέδευσε σε αυτή προκειμένου να αντιμετωπίσει τον Τούρκο ηγεμόνα της Σμύρνης Ομούρ στο χωριό Παναγία, κοντά στη Μονή Παναγίας Βαθυρρύακος (σημερινά Φατύρρυακα), ο οποίος εντέλει αποχώρησε χωρίς να δοθεί μάχη. Το 1341 ο ιστορικός Νικηφόρος Γρηγοράς την αναφέρει με το σημερινό της όνομα, ως Κομοτηνά ή Κομοτηναί. Το 1343, κατά τη διάρκεια του εμφυλίου πολέμου μεταξύ Ιωάννη ΣΤ’ Καντακουζηνού και Ιωάννη Ε’ Παλαιολόγου, προσχώρησε στην παράταξη του Καντακουζηνού μαζί με τα γειτονικά φρούρια Ασωμάτου, Παραδημής, Κρανοβουνίου και Στυλαρίου. Ο τελευταίος κατέφυγε σε αυτήν το 1344 για να σωθεί μετά από μάχη με τα στρατεύματα του Ομούρ και του Βούλγαρου συμμάχου του, Μομιτζίλου, που έλαβε χώρα κοντά στην ήδη κατεστραμμένη Μοσυνόπο