Το Καρλόβασι προέρχεται από τις τούρκικες λέξεις καρλί-οβάσι που σημαίνει χιονισμένη πεδιάδα. Ακόμα έχει το όνομα Καριόβα και Καρλόβας όπου είναι και το πιο πιθανότερο. Η περιοχή άρχισε να κατοικείται από τις αρχές του 1600, ίσως και νωρίτερα με πρώτους τους απογόνους των Σαμίων που είχαν μεταναστεύσει στη Χίο και ακολούθησαν Πελοποννήσιοι , Κρητικοί, Καριώτες, Ναξιώτες και από άλλες περιοχές . Όπως φανερώνει το όνομα του πρώτο χτίστηκε το παλαιό που είναι κρυμμένο σε δυσπρόσιτη περιοχή και ακολούθησαν τα υπόλοιπα, που και αυτά κατέλαβαν διάφορους λόφους, μακριά από την θάλασσα και τελευταίο το λιμάνι όπου η κατασκευή του άρχισε στις 8 Σεπτεμβρίου του 1871 και τελευταίος ο Όρμος.
Στην πόλη εδρεύει το τμήμα της Μαθηματικής Σχολής του Πανεπιστημίου του Αιγαίου. Το Καρλόβασι πρόκειται για μεγάλο εμπορικό κέντρο, αλλά πολλοί κάτοικοι ασχολούνται και με τη γεωργία με κύριες καλλιέργειες το αμπέλι και την ελιά.
Δυτικά της περιοχής βρίσκεται η πανέμορφή παραλία «Ποτάμι» όπου έχουν βρεθεί θερμές πηγές. Εκεί βρίσκεται το εκκλησάκι της Μεταμόρφωσης που κατασκευάσθηκε τον 11ο αιώνα και θεωρείται το αρχαιότερο της Σάμου. Βρίσκεται μέσα σε πυκνή βλάστηση και λίγο παραπάνω υπάρχουν καταρράκτες. Το ποτάμι είναι ένας παραλιακός οικισμός που αναπτύσσεται τουριστικά. Λίγο δυτικότερα υπάρχουν δυο άγριας ομορφιάς παραλίες, το μικρό και το μεγάλο Σεϊτάνι, όπου είναι προστατευόμενες περιοχές λόγω του ότι βρίσκουν στέγη οι φώκιες μονάχους-μονάχους. Οικισμοί του Καρλοβάσου είναι η Μονή του Προφήτη Ηλία με 91 κατοίκους, το ποτάμι με 12, τα Σακουλέικα με 25 και τους Σουρήδες με 27. Οι δυο τελευταίου οικισμοί είναι πολύ παλιοί αναφερόμενοι στην απογραφή του 1828. Την τελευταία εικοσαετία στο δήμο Καρλοβάσου υπάγονται τα δημοτικά διαμερίσματα των Αγ. Θεοδώρων, των Δρακαίων, της Καστανιάς, των Κονταίικων, των Κοντακαίικων, των Κοσμαδαίων, της Λέκας, του Πλατάνου και της Υδρούσας