เพลิดเพลินไปกับความสงบเย็นในบรรยากาศของสวนสาธารณะที่มีความแตกต่างจากที่อื่น ๆ ตรงทำเลที่ตั้งนั้นอยู่ติดกับภูเขาหินปูน จึงให้ความรู้สึกเหมือนนั่งอยู่ในถ้ำตลอดเวลา อีกทั้งยังมีลำคลองไหลผ่านข้าง ๆ เติมความชุ่มฉ่ำให้วันพักผ่อนหย่อนใจวันนั้นเต็มไปด้วยความรื่นรมย์ สวนสาธารณะเขาโต๊ะพญาวังแห่งนี้ มีสภาพเป็นภูเขาหินปูนลูกโดด ทางด้านทิศตะวันออกเป็นเพิงผาและมีถ้ำตื้น ๆ ในสมัยก่อนปี พ.ศ. 2504 เมื่อถึงฤดูฝน น้ำจะท่วมรอบเขาโต๊ะพญาวัง ต้องใช้เรือสัญจรไปมาเท่านั้น ขณะที่ด้านตะวันออกจะมีชาวบ้านหาหินย่อยไปทำก่อสร้างจนบางส่วนในบริเวณด้านหน้าของภูเขาลูกนี้หายไป จากนั้นทางเทศบาลเมืองสตูลได้เข้าไปพัฒนาและยกระดับให้เป็นสถานที่ท่องเที่ยวมีการตัดถนนรอบภูเขา นอกจากนี้ที่นี่ยังมีคุณค่าในแง่โบราณคดีด้วยเช่นกัน เนื่องจากมีการค้นพบเครื่องมือโบราณ 2 ชิ้น ซึ่งเป็นเครื่องมือสะเก็ดหิน ทำจากหินปูน ลักษณะเครื่องมือเป็นรูปครึ่งวงกลม ค่อนข้างบาง ส่วนโค้งมีความคมมาก ใช้ในงานขุด ส่วนอีกชิ้นหนึ่งนั้นเป็นหินปูนลายเหลี่ยมบาง มีรอยลึกบางส่วนและมีความคมด้วยเช่นกัน
