Inferență AI la bordul UAV: procesare la margine fără conectivitate

Un UAV fără legătură de date nu este orb dacă pipeline-ul său de inferență rulează la bord. Procesarea AI de la sol este arhitectura comună din motive de cost, dar creează o dependență critică: în momentul în care legătura cade, detecția se oprește. În medii contestate în care sistemele de război electronic degradează sau întrerup în mod regulat legăturile de date, această dependență este inacceptabilă din punct de vedere operațional. Inferența AI la bord mută calculul pe aeronavă, procesând cadrele de la senzorul EO sau IR direct pe un accelerator montat pe sarcina utilă, stocând local detecțiile adnotate și livrând un jurnal structurat de detecții sistemului C2 în momentul restabilirii conectivității. Acest articol acoperă platformele hardware, tehnicile de compresie a modelelor, proiectarea pipeline-ului de detecție, constrângerile de putere și termice, și tiparele de integrare C2 care fac detecția și urmărirea obiectelor pe dispozitiv viabilă pe UAV-urile tactice mici.

De ce trebuie ca inferența să ruleze la bordul UAV

Argumentul operațional pentru inferența la bord este direct: orice misiune care necesită continuitatea detecției pe durata unei întreruperi de legătură nu se poate baza pe procesarea de la sol. Un UAV care transmite video brut la o stație de sol necesită o legătură susținută cu lățime de bandă ridicată — de obicei 2–10 Mbps pentru video HD comprimat la latență acceptabilă. Obținerea acelei lățimi de bandă pe o rază tactică de 10–30 km într-un mediu cu bruiaj activ nu este garantată. Când fluxul video cade, operatorul de la sol pierde nu doar conștientizarea situațională a poziției UAV-ului, ci și fiecare detecție pe care senzorul ar fi generat-o pe durata întreruperii. Pentru o misiune de supraveghere, recunoaștere și cercetare (ISR) care se întinde pe ore, un gol de 20 de minute în legătură nu constituie un gol acceptabil în înregistrarea de detecții.

Inferența la bord rezolvă această problemă inversând fluxul de date. În loc să transmită date brute de la senzor către un nod de procesare la sol, UAV-ul transmite doar ieșirile de inferență: înregistrări de detecție care sunt cu ordine de mărime mai mici decât cadrele video brute. O înregistrare de detecție — eticheta de clasă, scorul de confidență, coordonatele bounding-box, poziția GPS și marcajul de timp — ocupă câteva sute de octeți. Un cadru video la rezoluție completă la 10 Mbps ocupă aproximativ 1,25 MB pe secundă. Când este disponibilă o legătură de rezervă cu lățime de bandă scăzută (un radio de date cu transmisie scurtă, un mesh MANET la debit redus), înregistrările de detecție tranzitează acolo unde videoul brut nu poate. Iar când nu este disponibilă nicio legătură, înregistrările de detecție se acumulează în stocarea locală până la recuperarea legăturii.

Există și un argument de latență. Timpul de dus-întors al rețelei de la un UAV la altitudine la o stație de sol și înapoi poate varia de la 50 ms la câteva sute de milisecunde în funcție de calitatea legăturii și rutare. Pentru țintele sensibile la timp — un vehicul care iese din acoperire, un grup de personal care se dispersează — această latență poate depăși fereastra pentru o semnalizare utilă. Inferența la bord produce un rezultat de detecție în intervalul de procesare a cadrelor al acceleratorului local, de obicei 30–100 ms de la capturarea cadrului la ieșirea adnotată, fără niciun salt de rețea în calea critică.

Platforme hardware: NVIDIA Jetson Orin vs Hailo-8 vs Intel Movidius pentru sarcinile utile UAV

Trei familii de cipuri domină implementările de producție pe sarcinile utile UAV. Fiecare reprezintă un punct diferit pe curba TOPS-per-watt, iar alegerea corectă este determinată în primul rând de bugetul de putere al platformei și de complexitatea sarcinii de inferență. O comparație detaliată a acestor opțiuni este prezentată și în articolul nostru despre hardware edge AI pentru apărare.

NVIDIA Jetson Orin Nano livrează 40 TOPS la 7–15 W în funcție de modul de putere configurat în framework-ul de management al puterii NV. Rulează un stack Linux complet, suportă nativ CUDA și TensorRT și acceptă orice model exportat prin formatul de schimb ONNX — făcându-l opțiunea cu cel mai scăzut nivel de fricțiune pentru echipele al căror pipeline de antrenament vizează deja TensorRT. Factorul de formă al Orin Nano (69,6 mm x 45 mm) se potrivește cavităților sarcinilor utile pe UAV-uri din clasa 5–15 kg, dar disiparea termică de vârf necesită fie răcire activă, fie o integrare atentă a dispersoarelor termice față de pielea structurii. Jetson Orin NX, nivelul următor la până la 100 TOPS și 15–25 W, este adecvat atunci când misiunea necesită rularea mai multor modele concurente (detecție plus clasificare plus re-identificare) pe același nod de inferență.

Modulul Hailo-8 M.2 atinge 26 TOPS la sub 5 W, livrat printr-o arhitectură dataflow extrem de eficientă care distribuie graful rețelei pe un tablou de clustere de procesoare, în loc să îl execute secvențial pe un nucleu GPU. Compromisul este specificitatea lanțului de instrumente: modelele trebuie compilate prin Hailo Dataflow Compiler, care generează un binar Hailo Execution Format (HEF). Compilatorul gestionează intern cuantizarea INT4 și INT8 și produce binare foarte optimizate, dar necesită ca topologia modelului să fie reprezentabilă în setul de operatori suportați de compilator. Arhitecturile standard YOLOv5, YOLOv8 și RT-DETR sunt în Hailo Model Zoo și se compilează fără modificări. Envelope-ul de putere al Hailo-8 — 5 W de vârf dintr-un slot M.2 — îl face alegerea naturală pentru platformele multi-rotor sub 5 kg cu bugete strânse de putere ale sarcinii utile.

Intel Movidius Myriad X (țintă OpenVINO) livrează 4 TOPS la aproximativ 1–2 W. Această cifră este modestă comparativ cu Hailo și Jetson, dar densitatea de integrare a Myriad X — disponibil în factori de formă USB stick și M.2 care se atașează la orice gazdă Linux prin interfețe standard — îl face cea mai simplă opțiune pentru UAV-uri cu aripi fixe sau lansate din tub, de dimensiuni foarte mici, unde nu poate fi acomodată o placă de transport dedicată. Optimizatorul de modele OpenVINO gestionează cuantizarea INT8 și calea de optimizare a grafului, iar lanțul de instrumente este bine documentat. Pentru implementările în care un YOLOv8n care rulează la 5–10 fps este suficient — ISR cu viteză redusă deasupra infrastructurii fixe, de exemplu — Myriad X este o opțiune viabilă la un cost SWaP-C semnificativ mai scăzut decât Hailo sau Jetson.

Compresia modelelor: cuantizare, tăiere și distilarea cunoștințelor pentru implementarea la margine

Un model YOLOv8m la precizie completă are aproximativ 25 de milioane de parametri și ocupă 50 MB în stocare FP32. Pe un Hailo-8 cu 8 MB de SRAM on-chip, acel model nu poate rula direct — trebuie comprimat la o dimensiune pe care ierarhia de memorie a acceleratorului o poate găzdui fără presiune excesivă a lățimii de bandă DRAM. Trei tehnici de compresie sunt utilizate în combinație pentru implementările UAV de producție, iar interacțiunea lor este tratată în profunzime în articolul nostru despre optimizarea modelelor ONNX și TensorRT pentru implementarea tactică la margine.

Cuantizarea post-antrenament (PTQ) convertește ponderile și activările FP32 în INT8 prin calibrarea factorilor de scală folosind un set de date reprezentativ. Pe hardware cu unități de execuție tensor INT8 — Jetson Orin, Hailo-8, Myriad X — inferența INT8 livrează o îmbunătățire a debitului de 2–4x față de FP32 la capacitate echivalentă a modelului. Pierderea de acuratețe este de obicei 0,5–2 mAP pe benchmark-uri de detecție a obiectelor aeriene atunci când setul de date de calibrare se potrivește cu domeniul de implementare. Setul de date de calibrare ar trebui să includă eșantioane de la senzorul și altitudinea reale la care modelul va fi implementat; calibrarea pe seturi de date aeriene disponibile public și implementarea pe un senzor diferit creează o nepotrivire de domeniu care poate degrada acuratețea cuantizată mai mult decât sugerează cifrele brute.

Tăierea structurată elimină întregi filtre convoluționale (canale de ieșire) a căror normă L1 se află sub un prag, producând un model mai mic din punct de vedere topologic care beneficiază atât de numărul redus de parametri, cât și de lățimea de bandă de memorie redusă. O tăiere structurată de 30% a YOLOv8s elimină aproximativ 30% din filtrele de pe coloana vertebrală, reducând latența de inferență cu aproximativ 25% pe hardware Jetson și îmbunătățind plafonul de acuratețe INT8 după recuantizare (deoarece filtrele rămase sunt cele mai activate). Pragul de tăiere este ajustat iterativ: tăiați, reglați fin pentru 10–20 de epoci pe setul de antrenament, măsurați acuratețea pe setul de validare și repetați până când se atinge latența sau amprenta de memorie țintă fără a depăși bugetul acceptabil de mAP.

Distilarea cunoștințelor abordează cazul în care tăierea modelului complet nu poate atinge numărul de parametri țintă fără pierderi inacceptabile de acuratețe. Un model student compact — YOLOv8n, de exemplu — este antrenat să reproducă ieșirile logit ale unui profesor mai mare (YOLOv8m sau YOLOv8l) pe datele de antrenament. Studentul învață să imite distribuția de confidență a profesorului între clase, nu doar atribuirile de etichete dure, ceea ce transmite informații despre ambiguitatea claselor și similaritatea caracteristicilor pe care antrenamentul cu etichete dure nu le transmite. Modelele student antrenate prin distilare depășesc constant modele de dimensiuni identice antrenate de la zero, de obicei cu 1–3 mAP pe benchmark-uri de detecție aeriene. Tehnica este deosebit de eficientă atunci când setul de date de antrenament este mic — o situație comună în implementările de apărare, unde imaginile aeriene etichetate ale unor clase de ținte specifice sunt rare.

Pipeline-uri de detecție a țintelor la margine: variante YOLO și compromisuri rata de cadre vs acuratețe

Familia YOLO domină implementările de producție pentru detecția la margine pe sarcinile utile UAV din două motive: arhitectura este single-stage (fără rețea de propunere de regiuni), ceea ce menține latența de inferență previzibilă și limitată, iar zoo-ul de modele este extins — ponderi pre-antrenate la mai multe scale (n, s, m, l, x) permit echipelor să selecteze nivelul de capacitate care se potrivește bugetului hardware. YOLOv8 este linia de bază de producție curentă pentru majoritatea integratorilor de apărare, deși RT-DETR (un detector single-stage bazat pe transformator) câștigă teren pentru cazurile de utilizare în care detecția la scări mici de obiecte — personal la 500 m altitudine, de exemplu — este critică și hardware-ul de inferență poate absorbi costul computațional mai ridicat.

Rata de cadre și acuratețea se echilibrează reciproc prin trei variabile pe care inginerul de pipeline le controlează: scala modelului, rezoluția de intrare și pragul de confidență. Reducerea rezoluției de intrare de la 640x640 la 320x320 reduce calculul de inferență cu aproximativ 4x și dublează rata de cadre realizabilă pe hardware fix, dar reduce proporțional raza efectivă de detecție pentru țintele mici. Pentru detecția vehiculelor la 100–200 m altitudine, 320x320 este în general suficient. Pentru detecția personalului la aceeași altitudine, 640x640 este minimul practic. Reducerea pragului de confidență de la 0,5 la 0,35 recuperează detecțiile țintelor parțial ocultate sau îndepărtate, dar crește rata de fals-pozitive, ceea ce ridică sarcina de adnotare pe sistemul de fuziune din aval. Pragul corect este specific misiunii și ar trebui ajustat față de datele de referință de la senzorul și altitudinea de implementare.

Pipeline-urile multi-etapă — un detector ușor pentru identificarea regiunilor de interes urmat de un clasificator cu capacitate mai mare pentru rafinarea etichetei — pot îmbunătăți acuratețea la un buget de calcul dat, concentrând resursele pe regiunile candidate. Un YOLOv8n care rulează la 30 fps identifică bounding-box-uri în jurul obiectelor de dimensiunea vehiculelor; un clasificator MobileNetV3 care rulează la 10 fps procesează doar regiunile decupate pentru a distinge rotite de urmărite și ușoare de grele. Această arhitectură în cascadă este bine adaptată modelului dataflow al Hailo-8, unde două rețele pot fi compilate într-un singur HEF și executate ca un graf în pipeline mai degrabă decât secvențial, ascunzând latența celei de-a doua etape în spatele intervalului de cadre al primei.

Constrângerile bugetului de putere și managementul termic pe UAV-urile mici

Bugetul de putere pentru o sarcină utilă UAV nu este fixat de capacitatea totală de energie a aeronavei, ci de alocația de curent a cavității sarcinii utile de la unitatea de distribuție a puterii (PDU) și de modelul termic al cavității sarcinii utile al sistemului de management al zborului. Un multi-rotor de 5 kg cu o baterie de 100 Wh și un timp de zbor de 30 de minute are un consum mediu de putere de aproximativ 200 W din toate sistemele combinate. Sistemul de propulsie consumă 80–90% din acel buget în condiții tipice de zbor în stație, lăsând 20–40 W pentru avionică, sarcina utilă și senzori. O sarcină utilă care consumă 15 W lasă doar 5–25 W pentru orice altceva. În practică, alocațiile de putere ale sarcinilor utile pe platformele sub 5 kg sunt adesea stabilite la 5–8 W de producătorul aeronavei, iar depășirea lor degradează măsurabil autonomia.

Managementul termic pe UAV-urile mici este mai dificil decât pe vehiculele terestre sau infrastructura fixă, deoarece cavitatea sarcinii utile este etanșă, mică și poate fi construită din materiale compozite termoizolante. Structura UAV oferă o oarecare răcire prin conducție a pielii și prin fluxul de aer peste suprafața exterioară, dar acest beneficiu variază cu viteza de zbor și geometria cavității sarcinii utile. Abordarea standard este de a monta placa de calcul a inferenței pe o pernă de interfață termică față de cel mai gros element structural din aluminiu al carcasei sarcinii utile, care servește ca dispersor de căldură spre structura aeronavei. Pentru Jetson Orin Nano la 10 W în regim staționar, o placă de aluminiu de 2 mm lipită pe partea inferioară a fuselajului cu pastă termică poate menține temperatura de die sub 75°C la 40°C ambiant în timpul zborului orizontal. Pentru Hailo-8 la 5 W, un simplu radiator atașat la conectorul M.2 al modulului este de obicei suficient.

Consumul de putere răspunde și la configurarea software. Utilitarul nvpmodel al platformei Jetson expune presetări de mod de putere care limitează frecvența CPU, frecvența GPU și lățimea de bandă a memoriei. Setarea Orin Nano la un mod de putere de 7 W reduce debitul de inferență cu aproximativ 35% față de modul maxim de 15 W, dar reduce aproape la jumătate disiparea de căldură, ceea ce poate fi compromisul corect atunci când envelope-ul termic al cavității sarcinii utile este constrângerea determinantă, mai degrabă decât latența de inferență. O configurație care rulează profilul complet de misiune al aeronavei fără limitare termică este mai fiabilă decât una care atinge performanța de vârf a inferenței timp de 15 minute înainte de a declanșa protecția termică automată a cipului și de a reduce imprevizibil rata de cadre.

Integrarea C2 prin MANET la reconectare

Jurnalul de detecții acumulat pe durata unei întreruperi de legătură are o valoare limitată dacă nu poate fi livrat rapid și complet sistemului de comandă și control atunci când conectivitatea este restabilită. Radiourile MANET (Mobile Ad-hoc Network) — utilizate în operațiunile tactice UAV pentru a oferi conectivitate mesh între aeronavă, vehiculele terestre și operatorii dismontați — sunt transportul primar atât pentru transmiterea detecțiilor în timp real, cât și pentru sincronizarea post-întrerupere. Când UAV-ul reintră în acoperirea mesh, nodul MANET la bord restabilește rutarea în câteva secunde, iar agentul de sincronizare începe să transmită înregistrările de detecție tamponale.

Arhitectura agentului de sincronizare ar trebui proiectată în jurul a două moduri de operare. În modul conectat, înregistrările de detecție sunt transmise aproape în timp real pe măsură ce sunt generate de pipeline-ul de inferență, serializate ca evenimente CoT și publicate pe TAK Server prin mesh-ul MANET. În modul deconectat, înregistrările se acumulează într-o bază de date SQLite locală cu un indicator „sincronizat". La reconectare, agentul interoghează înregistrările nesincronizate ordonate după marcajul de timp și le transmite în ordine cronologică, cu limitare de debit pentru a evita saturarea lățimii de bandă a radioului MANET cu trafic în rafale în detrimentul celorlalți participanți la rețea. După confirmarea fiecărei înregistrări de către server, aceasta este marcată ca sincronizată. Baza de date asigură recuperarea după blocare: dacă UAV-ul aterizează sau serviciul de inferență repornește în mijlocul sincronizării, următorul ciclu de sincronizare reia de la ultima înregistrare nesincronizată, fără a retransmite întregul jurnal.

Construirea evenimentelor CoT pentru detecțiile AI UAV urmează schema CoT standard, dar conține extensii specifice sarcinii utile în blocul detail. Clasa de detecție și scorul de confidență populează sub-elemente detail CoT personalizate. Poziția GPS a UAV-ului la momentul capturării cadrului este utilizată ca punct CoT, iar acolo unde pipeline-ul de inferență poate calcula o poziție de detecție proiectată la sol din câmpul vizual al senzorului, altitudinea deasupra solului și unghiul gimbalului, acea coordonată proiectată este utilizată în schimb — plasând marcatorul de detecție pe hartă la poziția reală la sol a țintei, mai degrabă decât la poziția aeronavei. TAK Server livrează aceste evenimente CoT tuturor clienților ATAK conectați, unde apar ca marcatori clasificați cu provenența detecției și metadatele de confidență vizibile în vizualizarea detaliilor evenimentului.

Achiziție: evaluări SWaP-C și MIL-STD de mediu

Achiziționarea unei sarcini utile de inferență AI la bord pentru un program de UAV tactic necesită evaluarea hardware-ului față de trei axe non-negociabile: SWaP-C (Dimensiune, Greutate, Putere și Cost), evaluări de mediu și maturitatea lanțului de aprovizionare. SWaP-C conduce compromisul de platformă descris mai sus — TOPS per watt, dimensiunile fizice și costul unitar constrâng toate siliciu-ul care este viabil. Evaluările de mediu determină dacă hardware-ul supraviețuiește condițiilor de implementare cu care se va confrunta. Costul conduce doctrina de expendabilitate a platformei: o sarcină utilă destinată unui UAV ISR recuperabil are o toleranță de cost diferită față de una instalată pe un sistem de zbor loitering unidirecțional.

MIL-STD-810 definește testele de stres de mediu relevante pentru sarcinile utile UAV: ciclare termică (metoda 501/502), vibrații (metoda 514), umiditate (metoda 507), altitudine (metoda 500) și șoc (metoda 516). Modulele de inferență disponibile comercial (COTS) precum Jetson Orin Nano sunt evaluate pentru o temperatură de funcționare de 0–80°C pe varianta comercială și -25 la 80°C pe varianta industrială. Cavitățile sarcinilor utile UAV în climă rece sau operațiuni la altitudine mare pot expune placa de calcul la temperaturi sub -25°C la pornire. Acolo unde aceasta reprezintă o preocupare, un circuit de precondiționare termică — un încălzitor rezistiv controlat de un termostat care încălzește cavitatea înainte de aplicarea tensiunii principale a sarcinii utile — este o soluție mai simplă și mai fiabilă decât selectarea unui procesor cu interval de temperatură mai larg care ar putea să nu existe la nivelul de capacitate necesar.

Maturitatea lanțului de aprovizionare contează disproporționat în programele de apărare, deoarece seriile de producție îndelungate necesită disponibilitate consistentă a componentelor pe perioade de mai mulți ani. Ciclul de viață al modulului Jetson Orin este publicat de NVIDIA cu un angajament de producție de 10 ani pentru variantele industriale, care satisface cerințele de ciclu de viață ale majorității programelor de apărare. Hailo-8 este un nou intrant cu un istoric de producție mai scurt, iar birourile de achiziții care îl evaluează pentru programe cu volum mare ar trebui să solicite angajamente contractuale de continuitate a aprovizionării. Pentru platformele în care cipul de inferență va fi integrat într-o placă de transport personalizată proiectată conform specificațiilor programului, proiectul plăcii de transport ar trebui să includă prevederi de amprentă pentru cel puțin un modul accelerator alternativ, astfel încât o schimbare a ciclului de viață al cipului în mijlocul programului să nu necesite reproiectarea plăcii de transport.