Il faut bien qu'Internet existe physiquement quelque part :)
Il existe bien sûr chez vous, avec votre box et vos ordinateurs, etc. mais les serveur sont la plupart du temps situés dans des salles serveurs, appelées Data Centers.
Les salles serveurs sont de grandes salles climatisées contenant des rangées de baies, en gros des étagères à perte de vue, quoi. Le standard est appelé “rack”: on a des emplacements de 19 pouces de large, presque 2m de profondeur et 1U, 2U, 3U etc. de hauteur (chaque U fait 1,75 pouce). Quand on dit qu'un serveur est “rackable”, c'est qu'il a ces dimensions-là avec les trous de vis correspondant aux baies.
En général on a une ou deux livraisons électriques 220V, et des livraisons optiques de transit réseau.
On peut aussi faire de l'hébergement associatif sur étagère moins standard :)