По-китайськи Гуйлінь означає "ліс дерев касії", але "кам'яний ліс" було б більш відповідною назвою для цих екзотичних скель, які скупчилися над берегом річки Лі. Товсті шари вапняку, з якого складаються кручі, відкладалися колись на дні прадавнього моря. Кілька мільйонів років по тому ця ділянка земної кори піднялася і дощі поступово почали розмивати породу, вже ослаблену тріщинами і розломами. При вторинному підйомі грунту ослабіла на той час порода місцями обвалилася, залишивши поодинокі конічні вежі, що складаються з більш стійкого до ерозії вапняку - чудовий приклад так званого баштового карсту. Вапнякова область, частиною якої є гори Гуйлінь, тягнеться від південної частини Центрального Китаю до Північного В'єтнаму.

Круті скелі, що досягають висоти в середньому 100 м, здіймаються майже вертикально над розкішною яскраво-зеленою долиною і йдуть вдалину рядами неприступних вершин і піків. Багато які з них покриті ліанами і невеликими деревцями, що чіпляються за скелясті схили, інші ж спалахують яскравим кольором, коли зацвітають орхідеї. Ці гори, оповиті іноді м'яких серпанком і відбиті в неквапливих водах річки Лі, мають містичною ауру, що століттями будить натхнення художників і поетів.

Гори пориті тунелями, вимитими за багато століть дощовою водою; під час Другої світової війни безліч людей ховалося тут від японських бомбардувань. Запеклі бої відбувалися тут, і в кінці шістдесятих, коли протиборчі угрупування Народної армії перетворили цю область в район бойових дій. І людям Гуйліня знову довелося ховатися від війни в гірських печерах. Одна з найбільш відомих - Печера Очеретяної дудочки, що входить в систему печер і тунелів з безліччю тендітних сталактитів і сталагмітів. Їй дано дуже влучна назва: із зведення звішується сотні маленьких сталактитів, багато з яких нагадують тоненькі дудочки, на яких грають чарівні мелодії, пов'язані в нашій уяві з Китаєм.

Цей не підвладний часу краєвид був до недавнього минулого недоступний західним туристам. При дворі останнього імператора династії Мін, який укрився в Гуйліняі коли маньчжури захопили Пекін в 1664 році, було кілька священиків єзуїтів, які намагалися звернути королівську сім'ю в християнство. Якщо не рахувати невеликої групи полонених португальських моряків (1550 р.), ці єзуїти стали першими західними людьми, які побачили гори Гуйлінь. Коли в 1949 році комуністичні сили захопили Гуйлінь, вони закрили місто для більшості іноземців. Він був знову відкритий тільки в 1973 році і швидко став одним з найпопулярніших туристичних місць.