Treffer: IMPACT OF CUSTOMIZABLE ORCHESTRATOR SCHEDULING ON MACHINE LEARNING EFFICIENCY IN EDGE ENVIRONMENTS.

This article explores the impact of custom scheduling strategies on the performance of machine learning workflows at the edge by using the case of Kubernetes scheduling. Optimizing machine learning (ML) workloads on resource-constrained edge devices has become a significant scientific challenge addressed by multiple studies. The severe limitations of edge systems in processing power, memory, and energy render conventional cloudnative schedulers ineffective, leading to poor resource utilization and degraded performance. While numerous advanced, data-driven solutions have been proposed for large-scale systems, their complexity and overhead are often impractical for edge deployments. In contrast, this work investigates a simpler, lightweight scheduling mechanism for CPU-based workloads that provides efficient and predictable performance without relying on historical data, making it well-suited for the unique requirements of the edge.Using a lightweight K3s cluster integrated with Kubeflow Pipelines, we investigate how varying binpacking functions influence resource allocation and training efficiency of a CNN model on the MNIST dataset. Our experiments demonstrate that tailored scheduling configurations can lead to noticeable improvements in training times and hardware utilization across different edge cluster sizes. The results offer actionable insights for optimizing AI workloads in resource-constrained edge environments. [ABSTRACT FROM AUTHOR]

Ten artykuł analizuje wpływ niestandardowych strategii harmonogramowania na wydajność przepływów pracy uczenia maszynowego na brzegu (edge), na przykładzie harmonogramowania w Kubernetes. Optymalizacja obciążeń uczenia maszynowego (ML) na urządzeniach brzegowych o ograniczonych zasobach stała się istotnym wyzwaniem naukowym, które jest przedmiotem wielu badań. Poważne ograniczenia systemów brzegowych w zakresie mocy obliczeniowej, pamięci i energii sprawiają, że tradycyjne, chmurowe schedulery są nieskuteczne, co prowadzi do słabego wykorzystania zasobów i spadku wydajności. Podczas gdy liczne zaawansowane, oparte na danych rozwiązania zostały zaproponowane dla systemów na dużą skalę, ich złożoność i narzut często czynią je niepraktycznymi w środowiskach brzegowych. W przeciwieństwie do tego, niniejsza praca bada prostszy, lekki mechanizm harmonogramowania dla obciążeń opartych na CPU, który zapewnia efektywną i przewidywalną wydajność bez potrzeby korzystania z danych historycznych, dzięki czemu dobrze odpowiada unikalnym wymaganiom środowisk edge. Wykorzystując lekki klaster K3s zintegrowany z Kubeflow Pipelines, badamy, w jaki sposób różne funkcje „upakowywania zadań” wpływają na alokację zasobów i efektywność treningu modelu CNN na zbiorze danych MNIST. Nasze eksperymenty pokazują, że odpowiednio dostosowane konfiguracje harmonogramowania mogą prowadzić do zauważalnych usprawnień w czasie treningu i wykorzystaniu sprzętu w różnych rozmiarach klastrów brzegowych. Wyniki dostarc zają praktycznych wskazówek dotyczących optymalizacji obciążeń AI w środowiskach edge o ograniczonych zasobach. [ABSTRACT FROM AUTHOR]

Copyright of Informatics Control Measurement in Economy & Environment Protection / Informatyka, Automatyka, Pomiary w Gospodarce i Ochronie Środowiska is the property of Lublin University of Technology and its content may not be copied or emailed to multiple sites without the copyright holder's express written permission. Additionally, content may not be used with any artificial intelligence tools or machine learning technologies. However, users may print, download, or email articles for individual use. This abstract may be abridged. No warranty is given about the accuracy of the copy. Users should refer to the original published version of the material for the full abstract. (Copyright applies to all Abstracts.)