Διαδρομές και εξισορρόπηση φορτίου

Μια διαδρομή είναι η γέφυρα ανάμεσα στην υποδομή σας και σε αυτό που βλέπει ο χρήστης. Εσείς διαχειρίζεστε διακομιστές και inbounds, ενώ ο χρήστης βλέπει μια σύντομη λίστα «διακομιστών» στην εφαρμογή του — και κάθε στοιχείο σε αυτή τη λίστα είναι στην πραγματικότητα μια διαδρομή.

Μια διαδρομή = μία γραμμή στην εφαρμογή του χρήστη

Μια διαδρομή είναι μια ομάδα inbounds κάτω από ένα όνομα στη συνδρομή του πελάτη. Ο κανόνας είναι απλός:

Μία μη κενή διαδρομή = μία καταχώρηση στη λίστα διακομιστών του χρήστη.

Μια διαδρομή μπορεί να κρατά ένα μόνο inbound — ή δέκα από αυτά σε διαφορετικούς διακομιστές. Ο χρήστης δεν το βλέπει ποτέ αυτό: επιλέγει «🇺🇸 ΗΠΑ», και σε ποιον ακριβώς διακομιστή θα καταλήξει αποφασίζεται από τον εξισορροπητή φορτίου — περισσότερα για αυτό παρακάτω.

Παράλληλα, το όνομα που βλέπει ο χρήστης είναι το όνομα του επιλεγμένου inbound: ονομάστε τα inbounds σας ξεκάθαρα («🇺🇸 Νέα Υόρκη», «🇺🇸 Ντάλας») και ακριβώς αυτό θα δει ο χρήστης.

Δημιουργία μιας διαδρομής

Στη σελίδα του cluster, στην ενότητα «Διαδρομές», πατήστε «Νέα διαδρομή». Ο οδηγός έχει τρεις ενότητες:

1. Πώς βλέπουν οι πελάτες αυτή τη διαδρομή — το όνομα (π.χ. 🇺🇸 ΗΠΑ) και μια σημαία. Αυτή είναι η «πινακίδα» της διαδρομής.
2. Αλγόριθμος εξισορρόπησης φορτίου — «Λιγότερο φορτωμένος κατά κυκλοφορία» (η προεπιλογή) ή «Round-robin». Η διαφορά εξηγείται παρακάτω.
3. Inbounds στην ομάδα — ποια inbounds ανήκουν στη διαδρομή. Αυτή η ενότητα είναι προαιρετική: μπορείτε να δημιουργήσετε μια κενή διαδρομή και να τη γεμίσετε αργότερα σέρνοντας.

Το διάγραμμα τοπολογίας: οι διαδρομές με μια ματιά

Στη σελίδα του cluster, οι διαδρομές εμφανίζονται σε ένα ζωντανό διάγραμμα: διακομιστές με τα inbounds τους στα αριστερά, κουτιά διαδρομών στα δεξιά. Τα inbounds μπορούν να συρθούν με το ποντίκι: πιάστε ένα inbound, αφήστε το σε άλλη διαδρομή — έγινε. Υπάρχει επίσης μια ζώνη «Χωρίς ανάθεση» — αφήστε εκεί ένα inbound για να το αποσυνδέσετε από όλες τις διαδρομές.

Τα ίδια τα κουτιά διαδρομών μπορούν επίσης να αναδιαταχθούν (χρησιμοποιώντας τη λαβή μεταφοράς ή τα βέλη) — αυτή είναι καθαρά οπτική σειρά για τη δική σας ευκολία.

Κενές διαδρομές

Μια διαδρομή χωρίς κανένα inbound σχεδιάζεται με διακεκομμένο περίγραμμα και δεν έχει «σωλήνα» προς τον κόμβο διανομής — μια υπόδειξη ότι οι χρήστες δεν μπορούν να τη δουν. Οι κενές διαδρομές είναι βολικοί δεσμευμένοι χώροι: δημιουργήστε την «🇯🇵 Ιαπωνία» εκ των προτέρων, και όταν εμφανιστεί ένας ιαπωνικός διακομιστής, σύρετε ένα inbound μέσα — η διαδρομή ζωντανεύει.

Η αντίθετη κατάσταση επισημαίνεται επίσης: αν έχετε inbounds εκτός οποιασδήποτε διαδρομής, ο πίνακας σας προειδοποιεί — «κάποιο(α) inbound(s) δεν ανήκουν σε καμία διαδρομή — οι πελάτες δεν μπορούν ακόμα να τα δουν».

Εξισορρόπηση φορτίου: ποιος καταλήγει σε ποιον διακομιστή

Όταν ένας χρήστης ζητά μια σύνδεση, για κάθε διαδρομή το σύστημα επιλέγει ένα inbound από την ομάδα — ζωντανά, με βάση φρέσκες μετρικές διακομιστή (τις ίδιες από την ενότητα 3). Υπάρχουν δύο αλγόριθμοι:

«Λιγότερο φορτωμένος κατά κυκλοφορία» (προεπιλογή)

Το σύστημα κοιτάζει πόσο εναπομείναν εύρος ζώνης ανά χρήστη έχει ο κάθε διακομιστής: παίρνει τη χωρητικότητα του καναλιού, αφαιρεί την τρέχουσα κίνηση, και διαιρεί με τον αριθμό των συνδεδεμένων χρηστών. Ο διακομιστής με το μεγαλύτερο περιθώριο κερδίζει. Είναι δίκαιη εξισορρόπηση «κατά πραγματικό φορτίο»: ένας αδύναμος, κορεσμένος διακομιστής δεν θα πάρει νέους χρήστες, ακόμη κι αν έχει τυπικά λιγότερους ανθρώπους πάνω του.

Το σύστημα εκτιμά μόνο του τη χωρητικότητα του καναλιού — από τις παρατηρούμενες κορυφές πραγματικής κίνησης (μια κορυφή σταδιακά «κρυώνει» αν ο διακομιστής δεν έχει φορτωθεί για κάποιο διάστημα).

«Round-robin»

Ένας απλός κανόνας: ένας νέος χρήστης πηγαίνει στον διακομιστή που αυτή τη στιγμή έχει τους λιγότερους ανθρώπους — προσαρμοσμένο κατά τον συντελεστή του διακομιστή. Ο συντελεστής είναι ένα βάρος: ένας διακομιστής με συντελεστή 2.0 αντιμετωπίζεται ως «διπλάσια ευρύχωρος» και θα λάβει περίπου διπλάσιους χρήστες από έναν γείτονα με 1.0. Αυτό σας επιτρέπει να φορτώνετε δίκαια μηχανήματα διαφορετικού μεγέθους.

Πότε γίνεται επανεξισορρόπηση

Συνεχώς — και αυτόματα. Η επιλογή διακομιστή υπολογίζεται εκ νέου σε κάθε αίτημα χρησιμοποιώντας φρέσκες μετρικές: αν το φορτίο μετατοπιστεί, νέοι χρήστες αρχίζουν να καταλήγουν σε πιο ελεύθερους διακομιστές. Ταυτόχρονα, το σύστημα προσπαθεί να διατηρεί την ίδια επιλογή για έναν συγκεκριμένο χρήστη όταν οι συνθήκες είναι ισοδύναμες, ώστε ο «διακομιστής» του να μην αλλάζει συνεχώς πέρα-δώθε.

Και ένα ακόμη δίχτυ ασφαλείας: οι διακομιστές που η παρακολούθηση θεωρεί μη διαθέσιμους εξαιρούνται από την επιλογή — περισσότερα για αυτό στην ενότητα 7.

Βασικά συμπεράσματα

• Μια διαδρομή είναι η «πινακίδα» για μια ομάδα inbounds· μια μη κενή διαδρομή = μία γραμμή στην εφαρμογή του χρήστη.
• Ένα inbound ανήκει μόνο σε μία διαδρομή. Ένα inbound εκτός οποιασδήποτε διαδρομής είναι αόρατο στους πελάτες.
• Οι κενές διαδρομές είναι απολύτως φυσιολογικός δεσμευμένος χώρος: ένα διακεκομμένο κουτί, κρυμμένο από τους χρήστες.
• Δύο αλγόριθμοι: κατά εναπομείναν εύρος ζώνης (έξυπνος, προεπιλογή) και round-robin με βάρη.
• Η εξισορρόπηση είναι ζωντανή: υπολογίζεται εκ νέου σε κάθε σύνδεση χρησιμοποιώντας τρέχουσες μετρικές.

Επόμενο βήμα