Масштабована система: архітектура, яка витримає ріст
Масштабованість - не про потужні сервери, а про рішення, які не доведеться переробляти при зростанні в десять разів.
Що закладати одразу
Чіткі межі між частинами системи, відсутність стану в пам'яті процесу, коректна робота з базою даних, індекси.
Це не подорожчає розробку зараз, але зекономить переписування потім.
Чого не робити наперед
Розподілена архітектура, складне кешування, черги повідомлень - усе це доцільно вводити за реальної потреби.
Побудована наперед складна інфраструктура найчастіше не знадобиться, а обслуговувати її доведеться з першого дня.
Де зазвичай вузьке місце
Не сервер, а база даних: відсутні індекси, надлишкові запити, вибірки всього замість потрібного.
Оптимізація запитів дає більший ефект, ніж будь-який апгрейд заліза.
Коротко
Закладайте чисті межі й правильну роботу з базою. Складну інфраструктуру додавайте за реальної потреби, а не наперед.