Τα γυμνάσια στην κλασική αρχαιότητα ήταν τόποι άθλησης των νέων και των ανδρών. Η μαζική και συστηματική προσέλευση τα κατέστησε επίσης τόπους κοινωνικής συναναστροφής. Στην Αθήνα, τα τρία μεγάλα γυμνάσια, του Κυνοσάργους, της Ακαδημίας και του Λυκείου εξελίχθηκαν σε κέντρα παιδείας και φιλοσοφικών συζητήσεων.

Στις αρχαϊκές ελληνικές κοινωνίες, η άθληση και η άμιλλα των επιφανών πολεμιστών αποτελούσαν βασικές πτυχές της πολιτισμένης διαβίωσης. Συνδεδεμένες με την απόδοση νεκρικών τιμών (όπως βεβαιώνει η Ιλιάδα) και με τη λατρεία των μεγάλων πανελληνίων θεών (όπως βεβαιώνει η καθιέρωση των ολυμπιακών αγώνων), συμπλήρωναν την εκπαίδευση στα όπλα και τη συμμετοχή στις πολεμικές αναμετρήσεις. Οι ιδιαίτεροι τόποι που διαμορφώθηκαν σε κάθε πόλη για διαρκή άσκηση και επίδειξη ονομάστηκαν κάποια στιγμή γυμνάσια, επειδή επιβλήθηκε η γενικευμένη γυμνότητα των αθλητών – με τη συνακόλουθη απαγόρευση εισόδου στις γυναίκες.

Τα παλαιότερα ελληνικά γυμνάσια δεν έχουν αφήσει ορατά ίχνη. Ακόμα και στους κλασικούς χρόνους, τα περισσότερα ενδέχεται να ήταν περίκλειστοι χώροι, χωρίς ιδιαίτερες εγκαταστάσεις. Μια πηγή και μια σκιά δένδρων για ανάπαυλα και αναψυχή, φαίνεται ότι συχνά επαρκούσαν. Δεδομένη θα πρέπει να θεωρηθεί και η ύπαρξη κάποιου τόπου λατρείας, που μπορούσε να είναι ένας απλός βωμός. Πολλά γυμνάσια ωστόσο άρχισαν να αποκτούν και έναν στεγασμένο χώρο που λεγόταν ξυστός (από τη στιλπνότητα του δαπέδου) με σύνηθες μήκος ένα στάδιο. Επίσης μια παλαίστρα, όπου οι αθλητές εκπαιδεύονταν και συναγωνίζονταν στο παγκράτιον και άλλες μορφές πάλης.

Οι πρώτοι αθλητές κατάγονταν από αριστοκρατικές οικογένειες. Καθώς η καθιέρωση της οπλιτικής φάλαγγας περιόρισε δραστικά την ατομική διάκριση στις πολεμικές αναμετρήσεις, οι ευγενείς θα πρέπει να αναζήτησαν έναν ιδανικό τόπο ειρηνικού και αναίμακτου ανταγωνισμού. Από τον πέμπτο αιώνα ωστόσο, στα γυμνάσια άρχισαν να συχνάζουν έφηβοι και πολίτες όλων των εισοδηματικών τάξεων. Τα έξοδα για τη συντήρησή τους τα ανέλαβαν μάλιστα οι πόλεις, καθιστώντας την προσέλευση των απλών πολιτών ευχερή.

Η τακτική συνεύρεση ανδρών όλων ηλικιών τα κατάστησε τόπους καθημερινών συζητήσεων και κοινωνικής συναναστροφής. Ορισμένα γυμνάσια άρχισαν να προσφέρουν και ευρύτερη παιδεία. Ο Σωκράτης φαίνεται ότι σύχναζε ιδιαιτέρως σε αυτά για να συναντήσει νέους και να συζητήσει μαζί τους.

Οι νέοι πρέπει να φτιάχνουν γυμνάσια για τον εαυτό τους και θερμά λουτρά για τους γέρους, εφοδιασμένα με άφθονη και ξερή καύσιμη ξυλεία, και να δέχονται με φιλοφρόνηση όσους έρχονται για να γιατρέψουν τα εξαντλημένα από τις αρρώστιες και κακοπαθημένα από τις βαριές γεωργικές δουλειές κορμιά τους, πράγμα που θα τους κάμει μεγαλύτερο καλό από τις φροντίδες ενός γιατρού όχι και πάρα πολύ σοφού (Πλάτων, Νόμοι 761c-d, μτφρ. Β. Μοσκόβης).

Τα μεγάλα αθηναϊκά γυμνάσια, του Κυνοσάργους, της Ακαδημίας (αρχικώς Εκαδήμειας και Ακαδήμειας) και του Λυκείου, χωρίς να χάσουν την αξία τους ως τόποι άθλησης, εξελίχθηκαν σε κέντρα φιλοσοφικών συζητήσεων και λειτούργησαν ως ανώτατοι πνευματικοί θεσμοί.

Το γυμνάσιο του Κυνοσάργους βρισκόταν έξω από τη νότια πύλη του αθηναϊκού τείχους. Αρχικός προορισμός του φαίνεται ότι ήταν η άθληση των νόθων Αθηναίων. Ήταν άλλωστε αφιερωμένο στη λατρεία του Ηρακλή που δεν ήταν γνήσιος θεός, εφόσον καταγόταν από θνητή μητέρα. Προτρέποντας μερικούς αριστοκράτες να γυμνάζονται εκεί, ο Θεμιστοκλής κατήργησε, καθώς μαρτυρείται, τη διάκριση νόθων και γνησίων πολιτών (Πλούταρχος, Θεμιστοκλής 1). Αργότερα, ο μαθητής του Σωκράτη Αντισθένης άρχισε να διδάσκει στο γυμνάσιο αυτό. Από τη ονομασία του ορισμένοι πίστεψαν ότι πήραν οι κυνικοί το όνομά τους (Διογένης Λαέρτιος 6.13).

Το γυμνάσιο της Ακαδημίας, που βρισκόταν κοντά στον Κολωνό βορειοδυτικά από την πύλη του Διπύλου, πήρε την ονομασία του από τον ήρωα Ακάδημο και ήταν αφιερωμένο στην Αθηνά. Τα έργα που το μετέτρεψαν σε σκιερό άλσος, με πλούσια ροή ύδατος, αποδίδονται στον Κίμωνα (Πλούταρχος, Κίμων 13.7). Η τοποθεσία έχει σήμερα ανασκαφεί.

Ο Πλάτων, που εγκαταστάθηκε κοντά του, σύχναζε και δίδασκε εκεί. Αργότερα απέκτησε δικό του κήπο στην περιοχή. Όταν πέθανε, θάφτηκε στην Ακαδημία, όπου μερικούς αιώνες αργότερα του έστησαν και άγαλμα. Από το γυμνάσιο αυτό πήρε την ονομασία της και η σχολή του (Διογένης Λαέρτιος 3.5, 7, 20, 25, 41).

Το γυμνάσιο του Λυκείου εντοπίστηκε ανασκαφικά το 1996 στην περιοχή της Ριζαρείου, δίπλα στο Βυζαντινό Μουσείο. Εκεί λέγεται ότι σύχναζαν και δίδαξαν πολλοί σοφοί άνδρες. Όταν η Αθήνα υποτάχθηκε στους Μακεδόνες, ο Αριστοτέλης το επέλεξε για να εγκαταστήσει τη σχολή του.

Ο Πλάτων προβληματίστηκε αρκετά με τον ρόλο και τη συνεισφορά των γυμνασίων σε μια ιδανική πολιτεία. Θεωρώντας δεδομένο ότι εκπαιδεύουν και προετοιμάζουν τους νέους για πόλεμο σημείωνε, μεταξύ άλλων:

Είχαμε καθορίσει να χτίσουμε τα γυμνάσια μαζί με τα δημόσια διδασκαλία σε τρία μέρη στο κέντρο της πόλεως και έξω από την πόλη, σε τρία μέρη πάλι, τα γυμνάσια για τους ίππους και ευρύχωρες εκτάσεις διαρρυθμισμένες για τοξοβολία και για τα άλλα όπλα που ρίχνονται από μεγάλες αποστάσεις ώστε να ασκούνται και συγχρόνως να μαθαίνουν αυτά οι νέοι… Τα ίδια και για τις γυναίκες. Ο δικός μου δηλαδή νόμος θα ορίσει ότι πρέπει και τα κορίτσια να γυμνάζονται σε όλα, όσα γυμνάζονται και τ΄ αγόρια. Και λέγοντας αυτά δεν έχω να φοβηθώ τίποτε ούτε για την ιππική ούτε για τη γυμναστική, ότι τάχα ταιριάζουν μόνο στους άνδρες και όχι στις γυναίκες (Πλάτων, Νόμοι 804c-e, μτφρ. Β. Μοσκόβης).

Τα ελληνιστικά χρόνια, ιδρύθηκαν συστηματικά γυμνάσια σε όλες σχεδόν τις νέες πόλεις που εγκαταστάθηκαν οι Έλληνες. Έμφαση δόθηκε σε ζητήματα παιδείας και κατάρτισης στην ελληνική γλώσσα. Φημισμένο υπήρξε το γυμνάσιο της Αλεξάνδρειας που οργανώθηκε και εποπτευόταν από την πολιτεία. Οι σημαντικές δημόσιες θέσεις προορίζονταν μόνο για όσους είχαν λάβει σε αυτό την προβλεπόμενη κατάρτιση και εκπαίδευση, οι από γυμνασίου ή εκ του γυμνασίου.