La simplicité doit guider toutes les modifications et déploiements sur un serveur. Le principe de simplicité, baptisé KISS (Keep It Simple, Stupid) pourrait être paraphrasé en « la solution la plus simple est la meilleure. », ou, selon les termes d'Albert Einstein, « tout devrait être conçu le plus simplement possible, mais pas plus. ».

Il est en effet facile de concevoir que les usines à gaz seront plus sujettes aux fuites que des systèmes simples. L'enchevêtrement de composants, de services, de protocoles nuit à la compréhension globale du système. Et en l'absence de compréhension, impossible d'exploiter le système dans des conditions satisfaisantes de sécurité. En cas de défaillance du système, comment identifier le composant responsable ? Et quel sont les effets de bord à envisager si le composant X tombe en panne ? Ou si le dæmon Y est compromis ? Ou encore si je mets à jour la librairie Z ? Ou bien si je migre vers la la dernière version du système d'exploitation ?

Il faudra donc, autant que possible, spécialiser les différents serveurs afin de ne pas créér de « serveur à tout faire » qui, lorsqu'il sera en panne, impactera un nombre important de services, ou qu'il sera impossible de faire évoluer. L'utilisation de la virtualisation peut aider à résoudre ce problème, même si cette technologie n'est pas encore bien apréhendée en ce qui concerne la sécurité.