Eșecuri CV care au crescut robustețea și gestionarea cazurilor-limită

Industria de computer vision n-a crescut din aplauze, ci din eșecuri rușinoase: detecții care confundă luna cu un semafor, algoritmi care văd pisici în zgomot, modele care performează strălucit în laborator și se prăbușesc în parcare, pe ploaie. Dacă te uiți atent, fiecare salt de robustețe din ultimii ani are la origine o greșeală făcută pe scenă deschisă. Așa se scrie progresul: te lovești de un colț, măsori unde sângerează pipeline-ul și pui întărituri exact acolo.

La fel gândesc și când vine vorba de igienă operațională și transparență: îmi place să setez un standard simplu, în care regulile sunt la vedere și butoanele esențiale sunt la un click. E fix motivul pentru care, în zona de jocuri, prefer ghiduri clare și explicite despre rotiri gratuite – https://nvcasino.ro/rotiri-gratuite/: știi ce primești, ce condiții ai, ce NU ți se promite. În AI, filosofia e identică: dacă nu poți explica ce, cum și de ce decide modelul, nu ai robustețe – ai doar noroc.

Când mașina vede ceva ce nu există

Cazurile clasice de adversarial examples au dat prima trezire serioasă: mici perturbări invizibile pentru ochiul uman făceau ca o rețea să confunde un semn Stop cu Speed Limit 45. Lecția? Modelele nu văd ca noi; optimizează pentru suprafețe de decizie, nu pentru sens. Din astfel de ridicări de sprânceană s-au născut: regularizările mai dure, defensiv training, randaugment, testarea cu corruptions (ceață, blur, zgomot) și, mai nou, antrenarea cu synthetic hard negatives generate procedural.

Edge cases: locul unde mor demo-urile

Flotele de mașini autonome au învățat pe greu că 99% acuratețe poate însemna zero încredere. Un camion alb pe fundal luminos, un pieton cu umbrelă reflectorizantă, un con de plastic aruncat în vânt – fiecare e un mic atac la generalizare. Aici au apărut două practici care au mutat munții:

1. active learning pe marginea distribuției (sistemul semnalează cadrele incerte, oamenii le etichetează, setul se îmbogățește exact acolo unde doare);
2. simulation-to-real: sintetici fotorealistici, cu rarități orchestrate (ninsori oblice, faruri murdare, reflexii atipice), apoi domain randomization ca să nu te îndrăgostești de un stil de lumină.

Biasurile care nu mai pot fi băgate sub preș

Recunoașterea facială și clasificarea medicală au arătat cum seturile dezechilibrate pot produce modele bune statistic, dar nedrepte și periculoase. Din fiasc-uri publice s-au născut audituri sistematice pe subgrupuri, stratified sampling, metrici de echitate (TPR parity, calibration), resampling țintit și, esențial, rapoarte de dată (datasheets for datasets) care descriu clar originea, limitările și drepturile. Robust nu înseamnă doar stabil la zgomot; înseamnă stabil între oameni diferiți.

Când contextul îți sparge modelul

Retailul a descoperit că un detector de produse se destramă când raftul e răvășit, când prețurile se luminează în modul promo, când vine reflexia de la un neon defect. Logistics a învățat că același cod cu 99% mAP moare pe fluxuri video comprimate.

Din asemenea failuri au apărut arhitecturi multisenzor (vizual + profunzime + IMU), capete de detecție temporal-aware, test-time adaptation (TTA) și self-training cu pseudo-etichete curate. Practic: nu mai întrebi doar ce e în pixelul ăsta?, întrebi ce a fost acum 0,2 secunde și cum se mișcă?.

Lecțiile dure care chiar te fac robust

Înainte să trecem la pași, merită să fixăm cadrul: succesul nu vine din curaj o dată pe an, ci dintr-un sistem care face încercările frecvente, ieftine și ușor de judecat. Următoarele puncte nu sunt teorie frumoasă, ci garduri de protecție pentru ca fiecare test să producă învățare rapidă – chiar și când nu iese:

• Test set ≠ realitate: construiește eval suites pe condiții și subgrupuri (noapte/zi, ploaie/ceață, piele/ten, mărimi rare).
• Active learning la margine: colectează sistematic edge cases și supraalimentează cu ele ciclurile de antrenare.
• Data provenance la vedere: documentează sursa, licența, distribuțiile; fără mistere în set.
• Augmentări cu sens: nu doar flip/rotate – simulează compresie, motion blur, flare, crop-uri crude, occluzii parțiale.
• Multi-modal & temporal: când semnalul vizual e slab, adaugă timp, profunzime, senzori ieftini.
• TTA & model soup: adaptează ușor la test, combină greutăți din antrenări complementare.
• Fail-safes operaționale: detectoare de incertitudine, out-of-distribution alarms, căi de degradare grațioasă.
• Observability: loguri bogate, re-play determinist, counterfactuals pentru debugging (ce imagine minimă schimbă verdictul?).

Un model bun fără un produs bun e doar un poster

Cele mai multe eșecuri n-au fost ale rețelei, ci ale produsului din jurul ei: lipsă de observability, dashboards perfecte pe medii curate, nimic despre ce se întâmplă când camera e acoperită cu praf. De aici a venit ideea de AI SRE: tratezi serviciul de viziune ca pe o bază de date critică. Monitorizezi drift-ul de distribuție, alertezi la spikes pe incertitudine, rulezi canary pe segmente mici de trafic, ții rollbacks la o apăsare. Robustețea e o disciplină, nu un flag în scriptul de training.

Robustețea se învață pe teren, nu în slide-uri

Fiecare eșec vizual notoriu a împins domeniul înainte: de la augmentări serioase și active learning, la test-time adaptation și monitorizare de drift. Dacă tratezi greșeala ca pe un dataset generator, nu ca pe o rușine, îți crești șansele de a livra modele care chiar țin la realitate – în ploaie, în trafic, cu camere obosite și cu oameni reali în cadru.

Regula rămâne aceeași, fie că vorbim de AI sau de orice altă industrie: spune clar ce știi, măsoară ce nu știi, pune frâne vizibile și îmbunătățește în buclă. Restul e marketing. Iar marketingul, fără robustețe, cedează la primul semafor alb.