Kā daudzas pilsētas Brandenburgā, Cosene veidojusies slāvu apmetnes vietā. Pilsētas nosaukums radies no vārda Sosna - priedes slāviskā nosaukuma. Pilsēta rakstos pirmoreiz minēta 1320. gadā. Gadsimta sākumā tika elektrizēta dzelceļa līnija no Berlīnes Marienfeldes rajona uz Coseni, kas tiek uzskatīta par pasaulē pirmo ātrgaitas dzelceļu (šajā līnijā 1903. gadā tika sasniegts ātrums 206,7 km/h). 1910. gadā pie pilsētas tika izveidota militārā bāze un tā šeit atrodas vēl joprojām. Pirmā pasaules kara laikā pie pilsētas atradās karagūsteņu nometnes, to skaitā nometne musulmaņu karagūstekņiem, saukta "Pusmēness nometne" (Halbmondlager) ar izbūvētu mošeju. 1918. gadā uz Berlīnes - Cosenes militārā dzelceļa tika testēti bezvadu telefoni - mūsdienu mobilo telefonu priekšteči. Otrā pasaules kara laikā pie pilsētas atradās vērmahta un bruņoto spēku slepenais komandpunkts jeb objekti Maybach I un Maybach II. Pēc Otrā pasaules kara līdz 1990. gadam Cosene ietilpa VDR, bet pie pilsētas savukārt bija Padomju armijas grupas Vācijā galvenais štābs.