Les origines monastiques de l’Athos remontent peut-être au IVe siècle, époque à laquelle se seraient fixés les premiers ermites. Sur ce point rien n’est sûr. Au VIIe siècle, sous Constantin Pogonat (668-685), des solitaires, auraient été, grâce à l’empereur, reconnus comme possesseurs du territoire. Au Vme, pendant les troubles religieux suscités par la querelle des images, des moines, persécutés pour leur attachement aux saintes icônes ou simplement désireux de les honorer à leur aise, ont pu venir de Constantinople se fixer à l’Athos. Mais ces indications sont extrêmement vagues.
Des premières précisions que l’on relève sur les débuts de la vie monastique à la Sainte Montagne remontent vers le milieu du ixe siècle, en la personne de Pierre l’Athonite. Ce Pierre, d’abord soldat puis prisonnier des Arabes, avait fait vœu de se consacrer à la vie monastique dès qu’il serait libéré. Il tint parole et reçut le saint habit, on ne sait pourquoi, à Rome. De retour en Orient, il s’arrêta à l’Athos, s’y fixa et vécut cinquante ans dans une grotte. Il y mourut vers 890. Dès cette époque il y avait un couvent, Saint-Clément, l’actuel Iviron, mais c’est tout ce qu’on en sait.
Euthyme de Thessalonique était contemporain de Pierre. Né vers 823-824 aux environs de l’actuel Ankara et marié à l’âge de seize ans, il quitta, après deux ans de mariage, sa femme et sa fille pour embrasser la « vie angélique », non sans avoir recommandé à sa famille de suivre son exemple dans les voies de la perfection. Il fut sans doute très persuasif, puisque sa mère, ses deux soeurs, et sa femme se firent moniales, sa fille restant chargée — ce qu’elle fit — de perpétuer la race. Fort original dans son ascèse, grand amateur de stylisme, Euthyme vécut aussi trois ans dans une grotte à la manière des bêtes, puis groupa un certain nombre de disciples. Il quitta plusieurs fois la Sainte Montagne et mourut aux environs de Volo, vers 884.
Entre 869 et 873, son ami et compagnon Jean Kolobos fonda un couvent dans la région nord de la presqu’île sur le territoire de l’actuel Hiérisso. Ce Kolobos, doué de très fortes aptitudes au commandement, était de plus animé d’un esprit processif qui le mit aux prises avec les saintes gens de la montagne et les indigènes de Hiérisso. Ces disputes, qui semblent mesquines, ont occupé une bonne partie de la vie de cet homme de Dieu, qui, si l’on en peut juger d’après une fresque de Chilandari, dut avoir un caractère bien tourmenté et peut-être tourmentant. Après sa mort, ses disciples héritèrent de ces fâcheuses dispositions, qu’ils avilirent encore par de regrettables défaillances sur le chapitre de l’intégrité et de l’esprit d’observance.
Ces trois expériences permettent d’affirmer que, si la vie monastique existait au ixe siècle à l’Athos, elle était encore loin d’être organisée.
La situation changea complètement sous Nicéphore Phocas, empereur de 963 à 969. Un moine originaire de Trébizonde, Athanase (+ 1003), était le guide spirituel et l’ami du grand général. Pressenti pour une charge d’higoumène (abbé d’un monastère), dont il ne voulait à aucun prix, Athanase se retira sur la Sainte Montagne en 958. Il n’y resta, dit-on, pas longtemps. Phocas, qui avait besoin d’un aumônier personnel pour une expédition contre les Sarrazins, l’aurait emmené avec lui en Crête. La campagne s’étant soldée par un important butin, le moine serait rentré dans ses solitudes, chargé de richesses. Grâce à ces dons, il fonda en 963 l’actuel monastère de Lavra. Il y attendit que Nicéphore, qui avait promis de l’y rejoindre, vînt partager avec lui les douceurs de la vie monastique. Mais le général victorieux qui, sur ces entrefaites était devenu empereur, préférait très nettement le manteau de brocart et les charmes de la belle Théophano à la simple cuculle. Le pieux ami ne fut pas cependant tout à fait oublié. Une charte impériale scellée d’or (chrysobulle) donna à la fondation un statut (typikon) que Jean Tzimiskès, successeur de Phocas, confirma en 971. Ces actes officiels, qui constituent aujourd’hui encore les fondements mêmes du monachisme athonite, allaient faire connaître à la Sainte Montagne une destinée extraordinaire.
Vers la même époque d’autres monastères s’édifiaient, Vatopédi, Zographou pour les Bulgares, Philothéou, Dochiariou, Xénophontos, Iviron, réservé aux Géorgiens. La fondation de Xiropotamou semble avoir été plus ancienne encore. Il y eut même à la fin du Xe siècle un monastère latin fondé par des marchands d’Amalfi. Destiné à latiniser l’Athos, il n’eut qu’une existence éphémère. Il n’en reste aujourd’hui que des ruines. Des Russes vinrent aussi s’installer à Esphigménou. Au XIIIe siècle, ce fut Koutloumoussi, dont le nom est celui d’un prince turc converti. ASaint-Pautéleïmon (XIIe siècle) résidait une colonie monastique russe. Les Serbes reconstruisirent le couvent délabré de Chilandari (fin XIIe).
D’après le typikon de Jean Tzimiskès, les moines devaient vivre dans des couvents régis par des higoumènes, dans des « cellules » ou dans des ermitages. Le pouvoir central résidait à Karyès, au centre de la presqu’île, et comprenait l’assemblée des higoumènes présidés par un primat (protos). La tenue de cette assemblée avait lieu une fois par an, le 15 août.
En vertu d’un chrysobulle d’Alexis Ier Comnène (1081-1118), faisant suite au règlement de Constantin IX Monomaque en 1046, les moines de l’Athos étaient indépendants du pouvoir impérial : « Nous ordonnons que le Mont Athos soit libre et exempt de tous impôts. Ses moines seront libres jusqu’à la fin du monde. Les souverains n’auront pas à se mêler de l’Athos. » De fait, quand ils intervinrent, ce fut surtout pour combler de bienfaits les saints moines, dont la condition devint de plus en plus prospère. Au Xe siècle, il y aurait eu cinquante-six monastères, trente et un à la fin du XIIIe et vingt-cinq en 1394, ces derniers étant numériquement plus importants que les premiers.
Pendant toute la durée de l’Empire latin de Constantinople, les moines eurent à souffrir de la sujétion latine et des incursions des pillards occidentaux que tentaient les richesses de la Sainte Montagne. Les Athonites trouvèrent alors un protecteur inattendu en la personne du pape Innocent III, mais n’en furent pas pour autant gagnés à l’unité romaine. Ils étaient si fermes dans l’Orthodoxie que, lorsque les Paléologues, en particulier Michel VIII (1261-1282), parlèrent d’union, ils n’hésitèrent pas à affronter les rigueurs de leurs souverains.
Après ces épreuves, le XIVe siècle peut être considéré comme le début de l’âge d’or de la Sainte Montagne. Les fondations se multiplièrent au point qu’il y eut, paraît-il, au siècle suivant, trente grands monastères, dont plusieurs de mille moines, sans compter les groupements de moindre importance.
La prise de Thessalonique par les Turcs en 1430 donna de grandes inquiétudes. La Sainte Montagne allait-elle être profanée par les infidèles? Il n’en fut rien, grâce à la souplesse d’un acte d’obédience, fort rare dans les annales athonites et dont en tout cas il n’avait pas été question quand les Latins eurent occupé les régions voisines. Les sultans Mourad II et Mahomet II confirmèrent, en contrepartie d’un tribut annuel, tous les droits et privilèges accordés par les empereurs. On montre encore à Vatopédi plusieurs firmans turcs interdisant au gouverneur musulman de l’Athos tout abus de pouvoir au détriment des moines. Cette règle ne fut pas toujours observée, mais en fait la vie de l’Athos ne semble avoir été qu’une seule fois vraiment troublée pendant près de cinq siècles de régime ottoman.
De la fin du XVe siècle à celle du XVIIe, la vie monastique connut une longue période de médiocrité, à laquelle mit un terme en 1783, la réforme du patriarche Gabriel. Mais les choses se gâtèrent en 1821. Pendant l’occupation turque, l’Athos, qui avait été le sanctuaire de la religion et, par elle, du nationalisme, devait jouer son rôle dans le combat pour la libération. A cette époque, les jeunes moines, partisans acharnés de l’indépendance, firent cause commune avec les insurgés nationalistes. Certains même étaient d’autant plus excités qu’on prétendait avoir vu dans la montagne le signe sacré qui avait assuré à Constantin sa victoire définitive sur Maxence en 312 : « Tu vaincras par ce signe. » Mais les Athonites eurent le dessous. Pour leur rébellion, l’Athos, fut souillé pendant neuf ans par l’occupation militaire des Turcs. La population monastique, réduite à 2.500 moines, était dans un état pitoyable.
Toutefois, même avant le départ des Turcs en 1912, les tzars, protecteurs de l’Orthodoxie et très soucieux de faire prédominer les influences slaves, contribuèrent par leurs dons à relever leurs ressortissants. Les fondations russes, d’abord modestes, puis abondamment peuplées et pourvues, sans cesse visitées par des troupes de généreux pèlerins en route vers la Terre Sainte, éclipsèrent tous les autres monastères. Ce fut la belle époque du Rossikon, du skite de Saint-André et du skite du Prophète Elie.
La chute des tzars en 1917 rétablit la situation au profit des Grecs. En 1923, le traité gréco-turc de Lausanne reconnut que l’Athos faisait partie de la Grèce. Il y était spécifié que les monastères non helléniques conserveraient tous leurs droits et privilèges, mais on savait désormais que les Slaves cesseraient peu à peu d’être encombrants. L’arrêt de mort ne tarda pas : en mai 1924, le Saint-Synode de l’Athos, sous réserve d’accord avec le Gouvernement grec, décréta qu’à partir de cette date, tous les Athonites seraient considérés comme sujets grecs et que le seul fait d’entrer comme novice conférait la nationalité grecque. C’était toucher directement les Russes, les Serbes, les Bulgares et les Roumains.