AlexNet: ஆழ்கற்றல் (deep learning) யுகத்தை ஆரம்பித்த 2012-ஆம் ஆண்டின் நரம்பியல் வலையமைப்பு (neural network)

AlexNet அடுக்குகளை அடிப்படையாகக் கொண்ட convolutional வலையமைப்பின் வரைபடம் (classifier மாற்றப்பட்டது); விளக்கப் படம், 2012 மூலக் கட்டமைப்பு அல்ல. வரைபடம்: Daniel Voigt Godoy, CC BY 4.0, Wikimedia Commons வழியாக.
2012-ஆம் ஆண்டு செப்டெம்பர் 30-ஆம் திகதி இமேஜ்நெட் பெருமளவு பார்வை இனங்காணல் சவாலில் (ImageNet Large Scale Visual Recognition Challenge - ILSVRC) வெற்றி பெற்ற சுருக்கல் நரம்பியல் வலையமைப்பே (convolutional neural network) AlexNet ஆகும். செயற்கை நுண்ணறிவில் (artificial intelligence) ஆழ்கற்றல் (deep learning) முக்கிய நீரோட்டத்திற்குள் நுழைந்த தருணமாக இவ்வெற்றி பரவலாகக் கருதப்படுகிறது.
டொரொன்டோ பல்கலைக்கழகத்தில் (University of Toronto) ஆலெக்ஸ் கிரிஸெவ்ஸ்கி (Alex Krizhevsky) என்பவரால், சக முதுகலை மாணவர் இல்யா சுட்ஸ்கெவர் (Ilya Sutskever) மற்றும் அவரது முனைவர் பட்ட வழிகாட்டி ஜெஃப்ரி ஹின்டன் (Geoffrey Hinton) ஆகியோருடன் இணைந்து இந்த மாதிரி உருவாக்கப்பட்டது. "SuperVision" என்ற அணியாகப் போட்டியிட்ட அவர்களின் பதிவு, 1,000 பொருட் வகைகளாகப் படங்களை வகைப்படுத்தியதில் முதல்-5 பிழை வீதத்தை (top-5 error rate) 15.3 வீதமாகப் பதிவு செய்தது. இரண்டாம் இடம் பிடித்தவரை விட 10.8 வீதப் புள்ளிகளுக்கு மேல் சிறந்த இந்த வித்தியாசத்தை அத்துறை அதுவரை கண்டதில்லை.
60 மில்லியன் அளவுருக்கள் (parameters) மற்றும் 650,000 நியூரோன்களை (neurons) கொண்ட இந்த வலையமைப்பு எட்டு அடுக்குகளைக் (layers) கொண்டிருந்தது: முதல் ஐந்து சுருக்கல் அடுக்குகள் (convolutional layers) - அவற்றில் சிலவற்றைத் தொடர்ந்து பெருமச் சேர்க்கை அடுக்குகள் (max-pooling layers) - மற்றும் இறுதியாக மூன்று முழு இணைப்பு அடுக்குகள் (fully connected layers). மாதிரி ஒரே ஒரு கிராஃபிக்ஸ் அட்டையின் (graphics card) 3 GB நினைவகத்தில் (memory) பொருந்தாததால், அது இரண்டு Nvidia GTX 580 GPU-க்களில் பிரிக்கப்பட்டிருந்தது - வெளியிடப்பட்டபோது ஒவ்வொன்றும் ஏறத்தாள 500 அமெரிக்க டொலர் விலை கொண்ட அட்டைகள் - மேலும் 1.2 மில்லியன் பெயரிடப்பட்ட படங்களில் ஐந்து முதல் ஆறு நாட்கள் பயிற்றுவிக்கப்பட்டது. பயிற்சி இயந்திரம் கிரிஸெவ்ஸ்கியின் பெற்றோர் வீட்டில் அவரது படுக்கையறையிலேயே வைக்கப்பட்டிருந்தது.
பல வடிவமைப்புத் தேர்வுகள் இவ்விளைவைச் சாத்தியமாக்கின. அக்காலத்தில் நடைமுறையில் இருந்த tanh மற்றும் sigmoid செயற்பாடுகளை விட மிக வேகமாகப் பயிற்சி அளித்த ReLU செயற்பாட்டை (ReLU activation function) AlexNet பயன்படுத்தியது; அதிகப் பொருந்துதலை (overfitting) தடுக்க dropout ஒழுங்குபடுத்தலையும் (regularization); சுழல் (random) வெட்டுகள் மற்றும் கிடைமட்ட எதிரொளிப்புகள் (horizontal reflections) மூலம் பயிற்சித் தொகுப்பை 2,000 மடங்குக்கு மேல் விரிவாக்கிய உடனடித் தரவு விரிவாக்கத்தையும் (data augmentation) பயன்படுத்தியது. போட்டிக்காக, தனித்தனியாகப் பயிற்றுவிக்கப்பட்ட ஏழு AlexNet-களின் கணிப்புகளின் சராசரியை அணி எடுத்துக்கொண்டது. CUDA மற்றும் C++ மொழிகளில் cuda-convnet என எழுதப்பட்ட நிரலாக்கம் BSD உரிமத்தில் (BSD licence) வெளியிடப்பட்டது; 2012-ஆம் ஆண்டின் அசல் மூல நிரலாக்கம் (source code) 2025-ஆம் ஆண்டு மார்ச் மாதம் கணினி வரலாற்று அருங்காட்சியகத்தால் (Computer History Museum) முறையாக வெளியிடப்பட்டது.
முந்தைய தசாப்தத்தில் முதிர்ந்த மூன்று அபிவிருத்திகளின் மீது இவ்வெற்றி தங்கியிருந்தது: 2007-ஆம் ஆண்டு முதல் பெய்-பெய் லீ (Fei-Fei Li) உருவாக்கிய ImageNet தரவுத்தொகுப்பு - 22,000 வகைகளில் 14 மில்லியனுக்கும் மேற்பட்ட பெயரிடப்பட்ட படங்களைக் கொண்டது; Nvidia-வின் CUDA தளம் வழியான பொதுநோக்கு GPU கணிப்பீடு (general-purpose GPU computing); ஆழ்ந்த வலையமைப்புகளைப் பயிற்றுவிப்பதற்கான மேம்பட்ட முறைகள். "நவீன AI-யின் மூன்று அடிப்படைக் கூறுகள் முதன்முதலில் ஒன்றுகூடியதால், அத்தருணம் AI உலகிற்கு மிக அடையாளமானது" என 2024-ஆம் ஆண்டு நேர்காணலில் லீ கூறினார். 2012 ஐரோப்பிய கணினிப் பார்வை மாநாட்டில் (European Conference on Computer Vision) யான் லிக்கன் (Yann LeCun) இந்த மாதிரியை "கணினிப் பார்வை வரலாற்றில் ஐயமற்ற திருப்புமுனை" (an unequivocal turning point) என அழைத்தார்.
பின்னர் ஏற்பட்ட விளைவுகள் தொழில்துறையையே மாற்றியமைத்தன. ஹின்டன், சுட்ஸ்கெவர், கிரிஸெவ்ஸ்கி ஆகியோர் சிறிது காலத்தில் DNNresearch என்ற நிறுவனத்தை நிறுவி, அதையும் AlexNet நிரலாக்கத்தையும் Google-இற்கு விற்றனர். சுட்ஸ்கெவர் பின்னர் OpenAI-ஐ இணைந்து நிறுவினார்; ஹின்டன் 2024-ஆம் ஆண்டு இயற்பியலுக்கான நோபல் பரிசைப் (Nobel Prize in Physics) பெற்று, "இதைச் செய்ய வேண்டும் என இல்யா நினைத்தார், ஆலெக்ஸ் அதை வெற்றிகரமாக்கினார், நோபல் பரிசு எனக்குக் கிடைத்தது" என நகைசுவையாகக் கூறினார். GoogLeNet மற்றும் VGGNet (2014), ResNet (2015), EfficientNet (2019) போன்ற ஆழ்ந்த அடுத்தடுத்த மாதிரிகள் AlexNet-ஐ விட மிக உயர்ந்த துல்லியத்தை அடைந்தன; SqueezeNet (2016), MobileNet (2017) போன்ற சிறிய மாதிரிகள் ஒத்த சக்தியைக் கையடக்கத் தொலைபேசிகளுக்குக் கொண்டுவந்தன. 2025-ஆம் ஆண்டின் ஆரம்பம் வரை அசல் ஆய்வுக் கட்டுரை 198,000 தடவைகளுக்கும் மேல் மேற்கோள் காட்டப்பட்டிருந்தது (cited) - வெளியிடப்பட்ட மிகச் செல்வாக்குமிக்க கணினி அறிவியல் கட்டுரைகளில் (computer science papers) ஒன்றாக அது விளங்குகிறது.