La città di Kosice fu fondata dai villaggi slavi a Krasna nad Hornadom, dove nel 1143 fu consacrata l'abbazia dei benedettini. La prima notizia scritta della città risale al 1230 nel documento antico di Lubin. Nel 1249 il re Bela IV diede a Kosice i diritti di città e nel 1342 il titolo di città regia libera. I sovrani ricompensarono durante gli anni successivi la città di Kosice per il suo sostegno con nuovi privilegi. Il re Ludovico I d'Anjou (Angiò) promosse Kosice al secondo posto nella gerarchia delle città regie dell'Ungheria, seconda solo a Buda. Nel 1369 ricevette, prima città in Europa, il proprio stemma civico. Lo stemma consiste di quattro righe rosse, quattro righe bianche e tre gigli d'Anjou (Angiò).
Nella prima parte del XIV secolo ci fu un grande periodo di prosperità per la città. Iniziò la costruzione del duomo di Sant'Elisabetta, che fu nuovamente ricostruito, dopo un'incendio sviluppandosi nel 1357, fra il 1378 e il 1508. La città fu il centro dell'artigianato ma anche una delle metropoli del commercio europeo. Verso il 1480 il numero degli abitanti era intorno 10.000 e a quei tempi era una delle più grandi città nell'Europa centrale. Il 13 aprile 1556 ci fu un grosso incendio distrusse chiese, monasteri, il municipio, le porte civiche, la fortificazione ed anche molte vie. Grazie agli aiuti delle città di Presov, Levoca a Bardejov la città fu di nuovo ricostruita.
Durante il XVI e XVII secolo Kosice fu segnata dalle ribellioni contro gli Asburgo e dalle guerre contro i turchi, e la città conobbe un periodo di forte decadenza economica ed il commercio fu paralizzato. A partire dal XVIII secolo pian piano furono ricostruiti molti palazzi e case borghesi in stile barocco, e più tardi in stile classico e liberty. Furono costruiti un gran numero di conventi, case, chiese, il teatro, la sinagoga e la città si estese anche al di fuori delle cinta murarie.