En esta presentación de cual es la estructura de facebook hay muchas pistas de como optimizar un website. Incluso si no tienes 120M de usuarios. Merece la pena verla y seguir la presentación porque hay información interesante.
Las pistas como siempre que crece un proyecto:
* uso extensivo de memcached (25TB dedicados ;-).
* desnormalizar las bases de datos. En este caso usan MySQL intensivamente.
* cuando PHP no es suficiente crear servicios más eficaces en otros lenguajes.
* optimizar todo desde el lenguaje a las consultas (nunca usan joins).
* monitorizar.
* y seguir optimizando y optimizando cada cuello de botella.