CUDA பயன்பாடு: ஆரம்ப GPU பரிசோதனைகளிலிருந்து AlexNet திருப்புமுனை வரை

Neural Networks-க்கு CUDA வழங்கிய மிகப்பெரிய செயல்திறன் முன்னிலையை AI ஆராய்ச்சியாளர்கள் 2006 முதல் 2009 வரையிலான காலத்தில் அடையாளம் காணத் தொடங்கினர். 2012 இல் அது பரவலான பயன்பாட்டுக்கான தீர்மானகரமான திருப்புமுனையை எட்டியது. இதற்கு முன்பு, Neural Networks நடைமுறையில் பயன்படுத்த முடியாத அளவுக்கு மெதுவானவையும் கணிப்புச் செலவு அதிகமானவையும் எனப் பரவலாக ஒதுக்கப்பட்டன.

CUDA ஏற்றுக்கொள்ளப்பட்ட வரலாற்றின் முக்கிய கட்டங்கள்

• 2006 (CUDA வெளியீடு): NVIDIA, CUDA-வை அறிமுகப்படுத்தியது. OpenGL போன்ற சிக்கலான Graphics Shaders-க்குப் பதிலாக வழக்கமான C/C++ மூலம் GPU-களை நிரலாக்க ஆராய்ச்சியாளர்களுக்கு இது வழிசெய்தது.

• 2007-2008 (ஆரம்ப Neural Net பரிசோதனைகள்): ஆரம்பப் பயனாளர்கள் Neural Network Algorithms-ஐ CUDA-வுக்கு மாற்றத் தொடங்கினர். 2008 இல், Stanford-இல் ஆராய்ச்சியாளர் ராஜத் ரைனா (Rajat Raina) மற்றும் ஆண்ட்ரூ இங் (Andrew Ng) குழுவினர், CUDA இயக்கும் GPU-களால் Multi-Core CPU-களைவிட 70 மடங்கு வரை வேகமாக Deep Belief Networks-க்குப் பயிற்சி அளிக்க முடியும் என்பதை நிரூபித்தனர்.

• 2009-2010 (சாதனை Benchmark முடிவுகள்): யுர்கன் ஷ்மிட்ஹூபரின் (Jürgen Schmidhuber) ஆய்வகத்தினர், டான் சிரெஷான் (Dan Cireșan) உள்ளிட்டோர், CUDA மூலம் விரைவுபடுத்தப்பட்ட GPU-களைப் பயன்படுத்தி Deep Neural Networks-க்குப் பயிற்சி அளித்து கையெழுத்து அடையாளம் காணும் MNIST சாதனைகளை முறியடித்தனர். சிறப்பு Supercomputers இல்லாமலேயே ஆழமான Networks-க்குப் பயிற்சி அளிக்க முடியும் என்பதை இது காட்டியது.

• 2012 (AlexNet திருப்புமுனை): தீர்மானகரமான தருணம் ImageNet போட்டியில் ஏற்பட்டது. அலெக்ஸ் கிரிஷெவ்ஸ்கி (Alex Krizhevsky), இல்யா சுட்ஸ்கெவர் (Ilya Sutskever) மற்றும் ஜெஃப்ரி ஹின்டன் (Geoffrey Hinton) ஆகியோர் இரண்டு NVIDIA GTX 580 GPU-களில் தனிப்பயன் CUDA Kernels-ஐப் பயன்படுத்தி AlexNet-க்குப் பயிற்சி அளித்தனர். வழக்கமான முறைகளுடன் ஒப்பிடும்போது Image Classification பிழை விகிதங்கள் கிட்டத்தட்ட பாதியாகக் குறைந்தன. இந்த வெற்றி நவீன Deep Learning புரட்சியைத் தொடங்கிவைத்தது.

• 2014 (cuDNN அறிமுகம்): AlexNet வளர்ச்சிக்குப் பின்னர் NVIDIA, cuDNN (CUDA Deep Neural Network library)-ஐ வெளியிட்டது. Caffe, Theano, TensorFlow மற்றும் PyTorch போன்ற Frameworks-க்காக உகப்பாக்கப்பட்ட, உடனடியாக இணைத்துப் பயன்படுத்தக்கூடிய GPU கட்டமைப்புக் கூறுகளை இது ஒவ்வொரு AI ஆராய்ச்சியாளருக்கும் வழங்கியது.

இது அனைத்தையும் மாற்றியது ஏன்

CUDA-வுக்கு முன்பு, மிதமான அளவுடைய Neural Network ஒன்றுக்கு CPU-களில் பயிற்சி அளிக்கவே வாரங்கள் அல்லது மாதங்கள் எடுத்தன. இதனால் முயற்சி செய்து பிழைகளைத் திருத்தும் ஆராய்ச்சி கிட்டத்தட்ட சாத்தியமற்றதாக இருந்தது. CUDA அந்தப் பயிற்சி நேரத்தை நாட்கள் அல்லது மணிநேரங்களாகக் குறைத்தது. இதனால் பெரிய Datasets-ஐப் பயன்படுத்தவும், அதிக Layers-ஐ அடுக்கவும், Transformers மற்றும் Large Language Models போன்ற நவீன Architectures-ஐ உருவாக்கவும் ஆராய்ச்சியாளர்களால் முடிந்தது.