Μερικά χιλιόμετρα νοτιοδυτικά από τον Βελβεντό και συγκεκριμένα στο ύψωμα Παλιοχώρα, καθώς και στην κοντινή τοποθεσία Γράτσιανη, έχουν εντοπιστεί λείψανα αρχαίου οικισμού. Από εδώ προέρχονται διάφορες αρχαιότητες, ανάμεσα στις οποίες και μια πολύ ενδιαφέρουσα επιγραφή των αυτοκρατορικών χρόνων. Στην επιγραφή μαρτυρούνται διάφοροι θεσμοί της ρωμαϊκής επαρχίας Μακεδονίας, όπως του μακεδονιάρχη, του αρχιερέα, του ιεροφάντη και του πρεσβυτεράρχη των Ολυμπίων.
Σύμφωνα με την παράδοση, οι πρώτοι κάτοικοι του Βελβεντού ήταν Λατίνοι έποικοι ή στρατιώτες που κατάγονταν από την πόλη Μπενεβέντο της Καμπανίας. Κατά τον Μεσαίωνα η πόλη αναφέρεται αποσπασματικά, ενώ κατά τον 14ο αιώνα δεν αποτελούσε σημαντικό οικισμό]. Τον 15ο και 16ο αιώνα γνώρισε ανάπτυξη, όμως, κατά τις αρχές του 18ου αιώνα, ο πληθυσμός του καταπιεζόταν από τις αυθαιρεσίες του βοεβόδα Μουσταφά των Σερβίων, με αποτέλεσμα να προκληθεί η επέμβαση του σουλτάνου.
Το διάστημα μεταξύ των ετών 1763 και 1773 επισκέφτηκε το Βελβεντό ο Κοσμάς ο Αιτωλός, ενώ το 1774 μετά από αίτημα των ντόπιων προκρίτων και του επισκόπου Κοζάνης προς το Οικουμενικό Πατριαρχείο, δημιουργήθηκε η πρώτη σχολή στον οικισμό, με πρώτο δάσκαλο τον πρώην διευθυντή της Ελληνικής Σχολής Θεσσαλονίκης, Ιωνά Σπερμιώτη. Γύρω στα 1815, σύμφωνα με τον Πουκεβίλ, το Βελβεντό διέθετε 428 σπίτια αλλά και μια μεγάλη βιβλιοθήκη, όμως τον επόμενο χρόνο η πόλη χτυπήθηκε από επιδημία, ενώ η σχολή του Βελβεντού θα παραμείνει κλειστή από το 1819 μέχρι το 1828[12]. Κατά τη διάρκεια της επανάστασης του 1821, η πόλη και κυρίως οι γειτονικές της περιοχές λεηλατήθηκαν από τα οθωμανικά στρατεύματα του Λουμπούτ[13].
Το 1854 το Βελβεντό χτυπήθηκε εκ νέου από επιδημία[14]. Αργότερα, αρκετοί κάτοικοι του οικισμού συμμετείχαν ενεργά στον Μακεδονικό Αγώνα, είτε ως μέλη τοπικών επιτροπών είτε ως αντάρτες στα ένοπλα ελληνικά τμήματα, ενώ σημαντική ήταν και η οικονομική ενίσχυση που δόθηκε από τους Βελβεντινούς της Αθήνας.
Το Βελβεντό απελευθερώθηκε στις 11 Οκτωβρίου του 1912, όταν αποσπάσματα της Α’ Μεραρχίας εισήλθαν στην πόλη. Λίγες μέρες νωρίτερα, μεγάλο κομμάτι του οθωμανικού πληθυσμού του Βελβεντού (πλην δέκα οικογενειών, που πρόλαβαν να καταφύγουν στους Έλληνες συγχωριανούς τους) σφαγιάστηκε εντός του τζαμιού της πόλης από άτακτους των γειτονικών περιοχών. Το 1924, στο πλαίσιο της ανταλλαγής πληθυσμών μεταξύ Ελλάδας και Τουρκίας, υποχρεώθηκαν να φύγουν από το Βελβεντό περίπου δέκα μουσουλμανικές οικογένειες και στη θέση τους εγκαταστάθηκαν έξι προσφυγικές. Το 1929 πραγματοποιήθηκε ο ηλεκτροφωτισμός της κωμόπολης.
Κατά τον πόλεμο του 1940–1941, σκοτώθηκαν πέντε κάτοικοι του Βελβεντού, όντες οπλίτες των ελληνικών ενόπλων δυνάμεων, ενώ, κατά τη διάρκεια της Κατοχής και του Εμφυλίου Πολέμου που ακολούθησε, έχασαν τις ζωές τους πάνω από 110 κάτοικοι της κωμόπολης