Durante l'epoca romana Arcola servì da deposito militare e stazione di passaggio in quanto punto strategico nell'offensiva contro le popolazioni liguri. Come città nacque più tardi, dopo che divenne un sicuro rifugio per tutti quegli abitanti di Luni che scapparono dall'epidemia di malaria scoppiata nel loro centro. Nei secoli seguenti il borgo visse anni molto duri in quanto venne più volte saccheggiata da parte di Normanni e di Saraceni.

Intorno all'anno mille i vari signori locali si susseguirono nella guida della città. In particolare, l'insistenza da parte dei Malaspina, provocò la rivolta di molti arcolani. Sconfitti, molti abitanti si rifugiarono in Sarzana ma vennero costretti a distruggere le loro case trasferire tutti i loro beni nella loro nuova città. Dopo vari saccheggi, nel 1268 passò sotto il dominio della Repubblica Genovese.

Mezzo secolo più tardi passò prima nelle mani di Castruccio Castracani e poi in quelle del duca di Milano. Dopo una breve parentesi sotto l'influenza di Lucca ritornò ai genovesi alla fine del XV secolo. Dopo un periodo di relativa pace, visse momenti tragici a seguito dei saccheggi perpetrati nell'ordine dagli eserciti spagnolo, tedesco, e francese. Dopo il Congresso di Vienna e la caduta di Napoleone, in base agli accordi internazionali, Arcola entrò a far parte del Regno di Sardegna, che divenne in seguito Regno d'Italia.