Czarne Góry zostały wypiętrzone w orogenezie hercyńskiej. Rzeźba tych gór ukształtowała się w wyniku procesów egzogenicznych. W przypadku kilku dolin, podczas ostatniego zlodowacenia, wyraźnie zaznaczyła się działalność lądolodu, który w tej okolicy znalazł się na granicy zasięgu.