Throughput batch

Mostra gli elementi al secondo, al minuto e all’ora e può confrontare tale capacità con un obiettivo. Indicando una velocità target, Lei ottiene la dimensione intera minima necessaria con il tempo corrente e l’intervallo massimo consentito dal lotto attuale. Può così verificare le ipotesi di capacità prima di ottimizzare worker, consumer di code, importazioni, job di inferenza o operazioni massive pianificate.

Traduca il comportamento batch in una velocità confrontabile

I sistemi batch vengono spesso descritti con due numeri difficili da confrontare: quanti elementi gestisce un’esecuzione e quanto tempo richiede. Il calcolatore divide la dimensione del lotto per il tempo del lotto, ottenendo il throughput effettivo in elementi al secondo, poi converte la stessa velocità al minuto e all’ora. Un worker che completa 500 elementi ogni 20 secondi, per esempio, sostiene 25 elementi al secondo se può iniziare subito il lotto successivo. Utilizzi il tempo fra due avvii quando preparazione, polling, attesa o ritardo della coda appartengono al ciclo reale. Usi il solo tempo di elaborazione se tali ritardi vengono contabilizzati altrove. Il risultato è una media e non implica che i singoli elementi terminino a intervalli regolari. Un lotto può rilasciare tutti i risultati insieme mantenendo il throughput indicato. Questa distinzione aiuta a confrontare consumer batch e worker in streaming senza confondere la latenza di consegna con la capacità di elaborazione.

Pianifichi la dimensione del lotto per un obiettivo

Aggiunga una velocità target in elementi al secondo quando deve verificare se la configurazione regge gli arrivi o un livello di servizio. Il calcolatore moltiplica l’obiettivo per il tempo corrente e arrotonda all’elemento intero successivo. Arrotondare verso l’alto è essenziale: non è possibile inserire una frazione di elemento e arrotondare per difetto produrrebbe una capacità inferiore a quella richiesta. La dimensione necessaria è quindi il minimo intero che raggiunge o supera l’obiettivo mantenendo invariato il tempo. La velocità risultante mostra il piccolo margine introdotto dall’arrotondamento. Lo scenario presume che un lotto più grande non richieda più tempo. È una prima stima utile, ma database, API, memoria e parallelismo possono avere una crescita non lineare. Verifichi il lotto candidato con carichi rappresentativi e inserisca nuovamente l’intervallo misurato. Ripetendo il ciclo, sostituirà un’ipotesi ottimistica con dati del sistema reale.

Trovi l’intervallo consentito dal lotto esistente

Talvolta la dimensione non può cambiare perché un’API a monte, un limite di transazione, la memoria o il broker impongono un tetto. In questo caso, l’analisi calcola anche il tempo massimo consentito con la dimensione attuale, dividendo gli elementi per la velocità target. Un lotto da 600 elementi con un obiettivo di 40 elementi al secondo deve, per esempio, completarsi con un intervallo fra avvii non superiore a 15 secondi. Confronti la soglia con tempi misurati a percentili elevati, non soltanto con l’esecuzione media o più veloce. Se la normale variabilità supera il limite, la configurazione nominale può rispettare l’obiettivo mentre la coda cresce in produzione. Il rapporto fra velocità riassume il margine: sopra uno indica capacità eccedente, uno indica uguaglianza e sotto uno indica deficit. Il modello considera un’unica linea sequenziale. Per più worker identici, usi il lotto combinato su un intervallo condiviso oppure sommi le velocità sostenibili solo con carico bilanciato.