Sima és környéke már ősidők óta lakott hely volt, ezt bizonyítják az 1800-as években a község közelében talált kőkori telep maradványai is.

Sima község belterületén az aranyosi-völgyi elágazás felől messziről látjuk azt a 250 év körüli, 4,5 m törzskerületű óriási tölgyfát, amely szinte szélesebb, mint amilyen magas. Hatalmas lombkoronájához mindössze 13 m magasság társul. A település neve felmerül Bocskai István 1605. december 12-i okiratban, melyben az őt támogató hajdúknak földet és kiváltságokat oszt. Borovszky Samu az 1900-as évek elején írta a községről: "Baskótól délre a vármegye határszélén fekszik Sima község 28 házzal és 188 magyar lakossal. Postája Boldogkő-Váralja, távírója Abaúj-Szántó." Sima a 20. század elején Abaúj vármegye Gönczi járásához tartozott.

Az 1910-es népszámláláskor 187 lakosa volt, valamennyien magyarok. Ebből 32 római katolikus, 145 református, 6 izraelita volt.

Mára az alig 35 főt számláló kis település várja szeretettel az erre járókat és az innen elászármazottakat.