TinyHybrid: Ultra-Efficient CNN-Transformer Architecture for Edge-Deployable Brain Tumor Classification
Fragment książki (Materiały konferencyjne)
MNiSW
200
konferencja
| Status: | |
| Autorzy: | Krukowski Krystian, Powroźnik Paweł, Skublewska-Paszkowska Maria |
| Dyscypliny: | |
| Aby zobaczyć szczegóły należy się zalogować. | |
| Wersja dokumentu: | Elektroniczna |
| Język: | angielski |
| Strony: | 1 - 9 |
| Bazy: | DBLP |
| Efekt badań statutowych | NIE |
| Materiał konferencyjny: | TAK |
| Nazwa konferencji: | 1st Workshop on Sustainability and Resource-Efficiency of Artificial Intelligenceorganized as part of the 35th International Joint Conference on Artificial Intelligence |
| Skrócona nazwa konferencji: | SuRE 2026 ; IJCAI-ECAI 2026 |
| URL serii konferencji: | LINK |
| Termin konferencji: | 17 sierpnia 2026 do 17 sierpnia 2026 |
| Miasto konferencji: | Bremen |
| Państwo konferencji: | NIEMCY |
| Publikacja OA: | TAK |
| Licencja: | |
| Sposób udostępnienia: | Otwarte repozytorium |
| Wersja tekstu: | Ostateczna wersja opublikowana |
| Czas opublikowania: | W momencie opublikowania |
| Data opublikowania w OA: | 29 września 2026 |
| Abstrakty: | angielski |
| Brain tumor classification from magnetic resonance imaging (MRI) is critical for clinical diagnosis, yet state- of-the-art deep learning models require substantial computational resources. We present TinyHybrid, an ultra- efficient CNN-Transformer hybrid architecture that achieves a mean 3-fold CV accuracy of 95.66% with only 89K parameters and 0.047 GFLOPs - a 976× reduction in parameters compared to Swin Transformer. Our design combines depthwise separable convolutions for local feature extraction with a lightweight transformer encoder for global context modeling. Critically, TinyHybrid achieves 2.5ms CPU inference (24× faster than Swin Transformer’s 59.4ms) and requires only 0.37MB storage, enabling real-time processing on edge devices without GPU acceleration. We also present a full-scale Hybrid model achieving a mean 3-fold CV accuracy of 96.73% with 2.25M parameters and 13.3ms CPU inference. Comprehensive ablation studies validate each architectural component, revealing that the transformer encoder is critical (∼11% accuracy impact), while attention mechanisms can be removed without accuracy loss. Aligned with the principles of Green AI, our models enable deployment in resource-constrained clinical settings, significantly reducing the carbon footprint of medical AI inference. |
