Edge-intellekt käsu peale

Abstract

The deployment of distributed machine learning (DML) at the edge has introduced a new generation of intelligent, real-time applications in domains such as autonomous vehicles, pervasive robotics, smart environments, and ambient sensing. However, managing such infrastructures remains inherently complex, particularly in decentralized, resource-constrained, and dynamically changing environments populated by heterogeneous devices. Existing solutions often rely on static configurations or require expert knowledge for setup, orchestration, and maintenance, thereby limiting their accessibility and scalability in real-world contexts. This thesis introduces \textit{Edge Intelligence on Command}, a novel architecture that employs large language models (LLMs) to initiate decentralized machine learning workflows via natural language intent. By combining prompt-engineered LLM agents with opportunistic device discovery and configuration, the system eliminates the need for specialized knowledge, empowering non-experts to deploy and manage ML tasks seamlessly. The architecture supports both federated and split learning, facilitating privacy-preserving, resource-efficient collaboration across diverse edge nodes. Beyond orchestration, the system addresses a critical challenge in DML deployments, which is ensuring the integrity of the learning process in the presence of abnormal device behavior. In particular, it focuses on poisoning attacks, where compromised or faulty edge nodes introduce corrupted data that can degrade model performance. In order to investigate this, a feasibility study conducted with a Raspberry Pi and thermal imaging reveals that poisoned training data induces detectable shifts in runtime behavior, including elevated temperature and increased CPU usage. These observations motivate the introduction of the Device Change Point Index (DCPI), a lightweight, decentralized anomaly detection mechanism based on native device metrics. Without relying on external hardware or centralized oversight, DCPI makes real-time trust assessment in edge learning environments. Taken together, this work demonstrates the feasibility and effectiveness of combining LLM-driven orchestration with runtime behavioral monitoring to enable secure, adaptive, and user-centric distributed intelligence at the edge. It contributes a practical step toward more autonomous and accessible edge AI systems.

Hajutatud masinõppe (DML, ingl k distributed machine learning) kasutamine edge-süsteemides on loonud soodsa pinnase uudsete nutikate ja reaalajas toimivate rakenduste arenguks, isejuhtivad sõidukid, ümbrusteadlikud robootika, nutikad keskkonnad, ning andurpõhine monitooring Edge-süsteemide haldamine on aga keerukas, kuna kasutatavad seadmed on sageli piiratud arvutusvõime ja energiavarudega ning süsteemi koosseisu kuuluvad seadeldised võivad olla väga erineva iseloomuga. Seetõttu tuginevad paljud tänapäevased süsteemid üksnes kitsale, ette määratud seadmevalikule või nõuavad nad ekspertteadmisi seadistamiseks, seadmete vahelise koostöö korraldamiseks ning süsteemide hoolduseks. Need piirangud vähendavad edge-süsteemide kättesaadavust ja takistavad nende praktilist, ulatuslikku rakendamist. Käesolev lõputöö tutvustab uudset arhitektuuri nimega Edge-intellekt käsu peale, mis rakendab suurkeelmudeleid (LLM, ingl k large language model), hajutatud masinõppe töövoogude algatamiseks tavakeelepõhiste käskluste alusel. Ühildades spetsiaalsete päringute abil loodud LLM agente, võimekusega oportunistlikult tuvastada ja sätestada seadeldisi, võimaldab antud arhitektuur ka ilma spetsialiseeritud teadmistega mitteekspertidel hõlpsasti luua ja hallata masinõppel põhinevaid ülesandeid. Arhitektuur toetab kahte tüüpi masinõpet: hajutatud õpet (ingl k federated learning) ja jaotatud õpet (ingl k split learning), võimaldades seadmete vaheline koostöö toimimist privaatsust tagavalt ja energiatõhusalt. Lisaks seadmete vaheliste koostöö korraldamisele, käsitleb antud süsteem üht keskset probleemi DML-s: kuidas tagada masinõppes õppimisprotsessi usaldusväärsus ka juhtudel, kus mõni seadeldis käitub valesti või on sattunud pahatahtliku rünnaku alla. Peaasjalikult keskendutakse antud töös andmete mürgitamisele (ingl k poisoning attacks), kus rünnaku alla sattunud seadeldis saadab vigaseid andmeid, mille tagajärjel võib kogu süsteemi töö halveneda. Selle probleemi uurimiseks teostasime eksperimendi kasutades Raspberry Pi-de ja termokaamerate abil, mille käigus selgus, et mürgitatud andmed suurendavad mõõdetavalt nii seadme temperatuuri kui ka protsessori töökoormust. Selle põhjal rakendasime DCPI-d (ingl k Device Change Point Index), mis on vähenõudlik, detsentraliseeritud ja reaalajas toimiv kõrvalekallete tuvastamise mehhanism. Kuna DCPI kasutab seadme sisemisi mõõdikuid, siis ei ole selle kasutamiseks vaja lisaseadmeid ega keskset juhtimist. Kokkuvõttes, antud töö näitab LLM-põhise, reaalajas toimiva ja turvalise edge-süsteemide haldamise arhitektuuride teostatavust. See võimaldab luua turvalisi, paindlikke ja kasutajasõbralikke tehisintellektil põhinevaid rakendusi edge-süsteemides, tuues meid sammu võrra lähemale autonoomsetele ja kättesaadavatele edge-intellekt süsteemidele.