Question Comment obliger Amazon ELB à gérer de grandes rampes de trafic?


Nous avons un système qui est actuellement dans Amazon Ec2. J'utilise actuellement Amazon ELB pour équilibrer la charge sur 12 instances dans 2 zones. J'ai effectué des tests de charge avec différentes caractéristiques:

1) une rampe d'utilisateurs simultanés de 0 à 10 000 sur 60 minutes. 2) une rampe à gradins commençant à 2 500 pendant 15 min, à 5 000 pendant 15 min, à 7 500 pendant 15 min et à 10 000 pendant 15 min.

Sur les deux serveurs, mes serveurs occupent environ 20 à 30% de l'unité centrale, 10 à 15% du réseau et semblent bien fonctionner. Notre application enregistre tout comme prévu et réagit très rapidement sur la machine tout au long du test. Mon trafic demande par seconde sur ces machines semble être assez spikey et présente un comportement étrange. Par exemple, les serveurs de la zone 1 abandonneront 200 à 400 requêtes par seconde, tandis que les serveurs de la zone 2 augmenteront simultanément de 200 à 400 requêtes par seconde. Tout cela tout en répondant parfaitement bien.

Cependant, les résultats du test de charge externe sont très différents. Je vois beaucoup de délais d'attente et d'erreurs de réinitialisation de connexion. Ces délais d'attente et les erreurs de connexion sont également quelque peu en pointillés, ce qui signifie que je vais passer 5 minutes sans erreurs, puis en obtenir un peu, puis revenir à rien pendant un certain temps.

Je soupçonne que la commission peut être en train de rééquilibrer ou quelque chose qui cause ce comportement. J'ai essayé de passer à un matériel très costaud tournant sous HAPRoxy. Cela semblait résoudre certains des problèmes à l'extrémité inférieure de la rampe de test de charge, mais semblait alors se priver de réseau et ne pouvait pas aller bien au-delà de 5 à 6 000 requêtes par seconde.

Je me demande si quelqu'un a un aperçu du comportement d'Amazon ELB? Aussi, s'il y a des solutions de rechange à cela? Cela peut inclure des solutions complètement différentes ...

Merci,

MikeD


5
2017-10-12 04:38


origine


Voir: tocker.ca/2013/05/01/… - Morgan Tocker


Réponses:


Répondre à ma propre question. Je suis tombé sur ce fil (https://forums.aws.amazon.com/thread.jspa?threadID=76834) qui fait une référence obscure à quelque chose appelé ELB Pre-Warm. J'ai appelé le support Amazon AWS et on m'a dit qu'il s'agissait bien d'un service proposé. Vous devez simplement disposer d'un plan de support (niveau Gold si vous souhaitez les appeler). Ils ont tout préparé pour moi et j'ai réussi à exécuter un test de charge réussi avec une rampe de 0 à 10 000 QPS en 5 minutes.


6
2017-10-14 05:04