Improved Vision Transformer with Lion Optimizer for Lung Diseases Detection
[ X ]
Tarih
2024
Yazarlar
Dergi Başlığı
Dergi ISSN
Cilt Başlığı
Yayıncı
Kırıkkale Üniversitesi
Erişim Hakkı
info:eu-repo/semantics/openAccess
Özet
Lung infections, such as pneumonia, bronchitis, tuberculosis, and notably COVID-19 caused by the SARS-CoV-2 virus, have caused widespread devastation globally, resulting in a significant loss of life. Timely and precise diagnosis of these respiratory diseases is crucial in controlling their spread and reducing their deadly impact. However, diagnostic errors can occur due to factors like physician workload and the need for a second opinion. To address these challenges, artificial intelligence-based diagnostic systems, utilizing deep learning algorithms, particularly in the radiology field, have been proposed. In this research, we introduced a novel model based on Multi-Axis Image Transformers, which boasts a reduced parameter count, decreased GPU computational load, real-time diagnostic capabilities, and improved accuracy. Furthermore, we conducted a detailed performance comparison of optimization algorithms, including SGD, Adam, and Lion, with higher results indicating that the Lion optimizer notably enhances the diagnostic capabilities of the proposed MaxViT model, especially in detecting lung infections. Our proposed approach underwent rigorous experimentation using the COVID-QU-Ex dataset, recognized as the most current, comprehensive, and balanced dataset for lung infections and COVID-19. Our method achieved diagnostic accuracy of 97.14%, surpassing existing models while maintaining significantly fewer parameters.
Pnömoni, bronşit, tüberküloz ve özellikle SARS-CoV-2 virüsü tarafından neden olan COVID-19 gibi akciğer enfeksiyonları, küresel olarak yaygın yıkıma neden oldu ve önemli bir can kaybına yol açtı. Bu solunum yolu hastalıklarının zamanında ve doğru teşhisi, yayılmanın kontrol altına alınması ve ölümcül etkisinin azaltılması açısından hayati öneme sahiptir. Ancak, hekim iş yükü ve ikinci bir görüşe duyulan ihtiyaç gibi faktörler nedeniyle teşhis hataları ortaya çıkabilir. Bu zorlukları ele almak için, özellikle radyoloji alanında derin öğrenme algoritmalarını kullanan yapay zeka tabanlı teşhis sistemleri önerilmiştir. Bu araştırmada, Çok-Eksenli Görüntü Dönüştürücüler temelli yeni bir model sunduk, bu model, azaltılmış parametre sayısı, azaltılmış GPU hesaplama yükü, gerçek zamanlı teşhis yetenekleri ve artan doğruluk gibi özelliklere sahiptir. Ayrıca, SGD, Adam ve Lion dahil olmak üzere optimizasyon algoritmalarının detaylı bir performans karşılaştırmasını yaptık ve etkili sonuçlar, Lion optimizatörünün MaxViT modelinin teşhis yeteneklerini özellikle akciğer enfeksiyonlarını tespitte önemli ölçüde artırdığını göstermektedir. Önerdiğimiz yaklaşım COVID-QU-Ex veri kümesi kullanılarak sıkı bir şekilde deneyime tabi tutuldu ve bu veri kümesi, akciğer enfeksiyonları ve COVID-19 için en güncel, kapsamlı ve dengeli veri kümesi olarak kabul edilmektedir. Yöntemimiz, mevcut modelleri aşarak %97,14'lük bir teşhis doğruluğuna ulaştı ve bunu yaparken belirgin şekilde daha az parametre kullandı.
Pnömoni, bronşit, tüberküloz ve özellikle SARS-CoV-2 virüsü tarafından neden olan COVID-19 gibi akciğer enfeksiyonları, küresel olarak yaygın yıkıma neden oldu ve önemli bir can kaybına yol açtı. Bu solunum yolu hastalıklarının zamanında ve doğru teşhisi, yayılmanın kontrol altına alınması ve ölümcül etkisinin azaltılması açısından hayati öneme sahiptir. Ancak, hekim iş yükü ve ikinci bir görüşe duyulan ihtiyaç gibi faktörler nedeniyle teşhis hataları ortaya çıkabilir. Bu zorlukları ele almak için, özellikle radyoloji alanında derin öğrenme algoritmalarını kullanan yapay zeka tabanlı teşhis sistemleri önerilmiştir. Bu araştırmada, Çok-Eksenli Görüntü Dönüştürücüler temelli yeni bir model sunduk, bu model, azaltılmış parametre sayısı, azaltılmış GPU hesaplama yükü, gerçek zamanlı teşhis yetenekleri ve artan doğruluk gibi özelliklere sahiptir. Ayrıca, SGD, Adam ve Lion dahil olmak üzere optimizasyon algoritmalarının detaylı bir performans karşılaştırmasını yaptık ve etkili sonuçlar, Lion optimizatörünün MaxViT modelinin teşhis yeteneklerini özellikle akciğer enfeksiyonlarını tespitte önemli ölçüde artırdığını göstermektedir. Önerdiğimiz yaklaşım COVID-QU-Ex veri kümesi kullanılarak sıkı bir şekilde deneyime tabi tutuldu ve bu veri kümesi, akciğer enfeksiyonları ve COVID-19 için en güncel, kapsamlı ve dengeli veri kümesi olarak kabul edilmektedir. Yöntemimiz, mevcut modelleri aşarak %97,14'lük bir teşhis doğruluğuna ulaştı ve bunu yaparken belirgin şekilde daha az parametre kullandı.
Açıklama
Anahtar Kelimeler
Detection of Lung infections, COVID-19, MaxViT, Vision transformer, Deep Learning, Akciğer enfeksiyonlarının tespiti, COVID-19, MaxViT, Görü transformatörü, Derin Öğrenme, Information Systems (Other)
Kaynak
Uluslararası Mühendislik Araştırma ve Geliştirme Dergisi
WoS Q Değeri
Scopus Q Değeri
Cilt
1
Sayı
2-760
