வெவ்வேறு தொழில்முறை வேலைநிலையத் தேவைகளுக்கு சிபியூக்களை எவ்வாறு பொருத்துவது?

வேலைச்சுமை-அடிப்படையிலான CPU தேர்வு: மெய்நிகராக்கம், AI, HPC மற்றும் தரவுத்தளங்கள்

மெய்நிகராக்கம் & கிளவுட் வேலைச்சுமைகள்: கோர் எண்ணிக்கை, PCIe லேன்கள் மற்றும் I/O செயல்திறன்

வர்சுவலைசேஷன் மற்றும் கிளவுட் அமைப்புகளுக்கான CPU-களைத் தேர்வு செய்யும்போது, நாம் பெறும் கோர்களின் எண்ணிக்கைக்கும், அவை வழங்கும் உள்ளீடு/வெளியீடு (I/O) திறனுக்கும் இடையே ஒரு சரியான சமநிலையைக் கண்டறிவது மிகவும் அவசியமாகும். ஒவ்வொரு வர்சுவல் இயந்திரமும் (VM) சுமுகமாக இயங்க தனக்கென தனித்தனியான செயலாக்க திரெடுகளின் தொகுப்பை தேவைப்படுத்துவதால், கூடுதல் கோர்கள் உண்மையில் ஒரு இயற்பியல் ஹோஸ்டில் அதிக எண்ணிக்கையிலான VM-களை இணைத்து இயக்குவதற்கு உதவுகின்றன. ஆனால், நாம் கவனமாக இல்லாவிட்டால், இங்கு விஷயங்கள் தவறிவிடலாம். அதிக கோர்கள் மட்டும் இருப்பது போதாது, அதன் மாதர்போர்ட் PCIe 5.0 லேன்களின் போதுமான எண்ணிக்கையை வழங்காவிட்டால். பெரும்பாலான நவீன ஹைபர்வைசர் தளங்கள் வேகமான NVMe சேமிப்பு அமைப்புகள் மற்றும் GPU இணைப்புகள் இரண்டையும் ஒரே நேரத்தில் கையாள குறைந்தபட்சம் 128 லேன்களை உண்மையில் தேவைப்படுத்துகின்றன. ஏற்ற உள்ளீடு/வெளியீடு (I/O) பேண்ட்விட்த் இல்லாமல், பயனர்கள் VM-களை மாற்றும்போது தொந்தரவு அளிக்கும் தாமத சிக்கல்கள் (latency issues) தோன்றுவதை கவனிப்பார்கள். மேலும், நினைவக சேனல்களையும் நாம் மறக்கக்கூடாது. கனமான தரவுத்தள பயன்பாடுகளை வழக்கமான கணினி பணிகளுடன் ஒரே நேரத்தில் இயக்கும்போது 8-சேனல் அமைப்பைத் தேர்வு செய்வது மிகப்பெரிய வித்தியாசத்தை ஏற்படுத்தும், ஏனெனில் இது வெவ்வேறு செயல்பாடுகள் கடுமையான வளங்களின் மீது போட்டியிடுவதைத் தடுக்கிறது.

செயற்கை நுண்ணறிவு மற்றும் உயர் செயல்திறன் கணினி பணிச்சுமைகள்: ஒற்றை-திரையில் தாமதம், நினைவக அகல திறன் மற்றும் FP64/INT8 முடுக்கம்

செயற்கை நுண்ணறிவு (AI) பயிற்சி மற்றும் அதிக சுமை கொண்ட HPC (உயர் செயல்திறன் கணினி) பணிச்சுமைகளைப் பொறுத்தவரை, இவை உண்மையில் CPU-களில் வெவ்வேறு வகையான அழுத்தத்தை ஏற்படுத்துகின்றன. இணையாக செயலாக்கம் (Parallel processing) நிச்சயமாக பல-கோர் (multi-core) அமைப்புகளை நன்றாகப் பயன்படுத்துகிறது, ஆனால் முன்செயலாக்க (preprocessing) படிகளுக்கு மிகவும் முக்கியமான ஒற்றை-இழை (single-thread) தாமதம் என்ற மற்றொரு பிரச்சனை இன்னும் நிலவுகிறது. உதாரணமாக BERT மாதிரிகளை எடுத்துக்கொள்ளலாம் – ஒவ்வொரு கோரும் 3 நானோ வினாடிகளுக்கு மேல் பதிலளிக்க தாமதமாகுமானால், தொகுதி செயலாக்கம் (batch processing) திறன் சுமார் 22% குறைகிறது. மேலும் நினைவக பைண்ட்விட்த் (memory bandwidth) பற்றி பேச வேண்டுமெனில், அது மிகவும் கவனிக்கத்தக்க வித்தியாசத்தை ஏற்படுத்துகிறது. சில HPC மாதிரிகளை (simulations) இயக்கி, என்ன நடக்கிறது என்று பாருங்கள்: 850 GB/வினாடி பைண்ட்விட்த் கொண்ட இயந்திரங்கள், 400 GB/வினாடி பைண்ட்விட்த் கொண்டவற்றை விட திரவ இயக்கவியல் (fluid dynamics) கணக்கீடுகளை இருமடங்கு வேகமாக முடிக்கின்றன. விஞ்ஞான மாதிரிகளை (scientific modeling) உருவாக்குவதற்கு சிறப்பு FP64 அலகுகள் மிகவும் உதவியாக இருக்கின்றன, அதே நேரத்தில் INT8 கட்டளைகள் முடிவெடுப்பு (inference) பணிச்சுமைகளை மென்மையாகவும் விரைவாகவும் இயக்க உதவுகின்றன. இந்த அம்சங்களை விடுத்துவிடும் தயாரிப்பாளர்கள், MLPerf சோதனைகளின்படி, தங்கள் AI பயிற்சிக்கு சுமார் 40% அதிக நேரம் தேவைப்படுவதைக் காண்பார்கள். ஆராய்ச்சி சூழல்களில், ஒவ்வொரு மணிநேரமும் முக்கியமானதாக இருக்கும் போது, இத்தகைய நேர தண்டனை விரைவாக துன்பத்தை ஏற்படுத்தும்.

பரிவர்த்தனை தரவுத் தளங்கள்: ஏன் ECC நிலைத்தன்மை, கேஷ் அளவு மற்றும் நினைவக தாமதம் கோர் எண்ணிக்கையை விட முக்கியமானவை

பரிவர்த்தனை தரவுத்தளங்களைப் பொறுத்தவரை, துல்லியமான வேகத்தை விட நிலைத்தன்மையே முதன்மையானது. நாம் எப்போதும் எதிர்பாராத தரவு சீர்கேடுகளைத் தடுப்பதில் ECC நினைவகம் முக்கிய பங்கு வகிக்கிறது. நினைவக சேமிப்பில் ஒரு தனிப்பட்ட பிட் (bit) மாறுவது என்ன விளைவை ஏற்படுத்தும் என்று சிந்தியுங்கள். 2023-இல் பொனெமான் நிறுவனம் மேற்கொண்ட சில ஆய்வுகளின்படி, இத்தகைய பிழைகள் சுமார் 7,40,000 அமெரிக்க டாலர்கள் அல்லது அதற்கு அருகில் உள்ள பெரும் மீட்புச் செலவுகளை ஏற்படுத்தலாம். குறைந்தது 60 எம்பி கொள்ளளவு கொண்ட பெரிய L3 கேஷ்கள், பொதுவாக பயன்படுத்தப்படும் தரவுகளை சிப்பின் மேலேயே வைத்திருப்பதன் மூலம் காத்திருப்பு நேரத்தைக் குறைக்கின்றன. இதனால் OLTP வினவல்கள் சிறிய கேஷ்களைக் கொண்ட அமைப்புகளை விட தோராயமாக 30% வேகமாக இயங்குகின்றன. இன்னொரு சுவாரஸ்யமான விஷயம் — யாரும் எதிர்பாராதது: மிகையான செயலி கோர்களைச் சேர்ப்பது உண்மையில் செயல்திறனை மெதுவாக்கிவிடும். MySQL ஐக் கொண்டு மேற்கொள்ளப்பட்ட சோதனைகளின்படி, 32 கோர்களைக் கொண்ட கணினிகளில் பரிவர்த்தனைகள் முடிவடைவதற்கு தோராயமாக 15% அதிக நேரம் எடுத்தன, அதே நேரத்தில் 24 கோர்களைக் கொண்ட கணினிகளை விட; இதற்கு காரணம் NUMA சிக்கல்களே. உண்மை நேர பகுப்பாய்வுகளைக் கையாளுபவர்களுக்கு, செயலியின் உள்ளே எத்தனை கோர்கள் உள்ளன என்பதை எண்ணுவதை விட, நினைவக பதிலளிப்பு நேரத்தை 80 நானோ வினாடிகளுக்கு கீழே கொண்டு வருவது மிகவும் முக்கியமானது.

சிருஷ்டித்தல் மற்றும் தொழில்நுட்ப வல்லுநர் பணிச்சுமைகள்: வெளிப்படுத்தல், காணொளி திருத்தம் மற்றும் அனுகரிப்பு

3D வெளிப்படுத்தல் மற்றும் அறிவியல் அனுகரிப்பு: Threadripper Pro எதிர் Xeon W எதிர் EPYC செயல்திறன் உண்மைகள்

உயர் தரமான 3D வெளிப்படுத்தல்களை உருவாக்குதல் மற்றும் சிக்கலான அறிவியல் மாதிரிகளை இயக்குதல் ஆகியவை, இணைச் செயலாக்க சக்தியைப் பொறுத்தவரை, வன்பொருளை அதன் எல்லைக்கு உந்துகின்றன. வேலை நிலைய செயலிகள், அவை எத்தனை கோர்களைக் கொண்டுள்ளன என்பதும், தரவு நினைவகத்தின் வழியாக எவ்வளவு வேகமாக இயங்குகிறது என்பதும் என இரண்டிற்கும் இடையே ஒரு நுண்ணிய சமநிலையை ஏற்படுத்த வேண்டும். AMD Threadripper Pro இங்கு தனித்து நிற்கிறது — அதன் குறிப்பிடத்தக்க 64-கோர் அமைப்பு மற்றும் DDR5 நினைவகத்தின் நான்கு சேனல்களுக்கான ஆதரவு ஆகியவற்றுடன். முடிவிலா உறுப்பு பகுப்பாய்வு (Finite Element Analysis) தொடர்பான மாதிரிகளில் பணிபுரிபவர்களுக்கு, வலுவான FP64 செயல்திறனை பராமரிப்பது மிகவும் முக்கியமாகும். EPYC செயலியின் 12-சேனல் நினைவக வடிவமைப்பு, எட்டு நினைவக சேனல்களைக் கொண்ட அமைப்புகளுடன் ஒப்பிடும்போது, தடைகளை தோராயமாக 43% வரை குறைக்கிறது. கதிர் தடுப்பு (ray tracing) பணிகளைப் பொறுத்தவரை, Threadripper Pro தனது பெரிய L3 கேஷ் குளங்களுக்கு நன்றி சொல்லி, முன்னணியில் உள்ளது. இதற்கிடையில், Intel-ன் Xeon W தொடர், பதிலளிப்பு வேகம் மிகவும் முக்கியமாகும் ஒற்றை-இழை (single-threaded) CAD பயன்பாடுகளில் இன்றும் தனது இடத்தை பாதுகாத்து வருகிறது. பெரும்பாலான இயற்பியல்-அடிப்படையிலான வெளிப்படுத்தல் மென்பொருட்கள், கிடைக்கக்கூடிய கோர்களின் எண்ணிக்கையுடன் நேரடியாக அளவிடப்படுகின்றன; எனவே, கலைஞர்கள் வெளிப்படுத்தல் நேரத்தை பல மணிநேரங்களிலிருந்து சில நிமிடங்களாகக் குறைக்க விரும்பினால், 32 கோர்களை விட அதிகமாகச் செல்வது கிட்டத்தட்ட அவசியமாகிறது. வெப்ப மேலாண்மையும் இன்று பெரும் கவலையாகவே உள்ளது. நீண்ட கால கணிப்பு திரவ வியக்கியல் (Computational Fluid Dynamics) ஓட்டங்களின் போது, வெப்ப சேமிப்பு இந்த சக்திவாய்ந்த அமைப்புகளின் செயல்திறனை நேரத்துடன் கணிசமாகக் குறைத்துவிடும்; எனவே, திரவ குளிரூட்டல் (liquid cooling) இன்று வெறும் வசதியாக இல்லை — தீவிரமான வேலை நிலைய அமைப்புகளுக்கு இது பிராக்டிகலியாக அவசியமாகிறது.

வீடியோ திருத்தம் & குறியீடு: சிபியூ தேர்வில் குவிக் சிங்க், AVX-512 மற்றும் ஒருங்கிணைந்த நினைவக கட்டமைப்பின் தாக்கம்

இன்றைய பெரும்பாலான வீடியோ திருத்த அமைப்புகள், சிறப்பான தற்காலிக முன்னோட்டங்களைப் பெறுவதையும், நீண்ட வெளியீடு (எக்ஸ்போர்ட்) செயல்முறைகளை வேகப்படுத்துவதையும் முக்கியமாகக் கவனிக்கின்றன. உதாரணமாக, இன்டெல் குவிக் சிங்க் தொழில்நுட்பத்தை எடுத்துக்கொள்ளலாம் — இது ஹெச்.265 குறியீடு பணிகளை GPUகள் செயல்படுத்த அனுமதிக்கிறது; இதனால், மென்பொருள் மட்டுமே சார்ந்த வெளியீட்டை விட 4K டைம்லைன்களை வெளியிட 70% குறைவான நேரம் தேவைப்படுகிறது. சிக்கலான வண்ண மாற்றங்கள் (கலர் கிரேட்ஸ்) மற்றும் சிறப்பு LUTகளுடன் பணியாற்றும்போது, Xeon W செயலிகளில் காணப்படும் AVX-512 கட்டளைகள் ஒரே நேரத்தில் பெரும் அளவு வண்ணத் தரவைச் செயலாக்க முடியும்; ஒவ்வொரு சுழற்சியிலும் 512-பிட் தரவுத் துண்டுகளை செயலாக்குகின்றன. ஒருங்கிணைந்த நினைவக கட்டமைப்பும் மிகவும் முக்கியமானது, குறிப்பாக 8K RAW கோப்புகள் போன்ற மிகப்பெரிய கோப்புகளைக் கையாளும்போது. இந்த அமைப்பு, தரவு வெவ்வேறு நினைவகப் பகுதிகளுக்கு இடையே திரும்பித் திரும்பி செல்வதால் ஏற்படும் எல்லா சிரமங்களையும் நீக்குகிறது. இது வேலைநிலைய கட்டுமான வல்லுநர்கள் (workstation builders) கவனத்தில் கொள்ள வேண்டிய ஒரு விஷயம்...

• NUMA தாமதம் காரணமாக இரட்டை CPU கட்டமைப்புகள் வீடியோ திருத்தத்திற்கு மிகவும் குறைவான நன்மை அளிக்கின்றன
• H.266/VVC குறியீட்டு பணிச்சுழற்சிகளுக்கு வன்பொருள் முடுக்க ஆதரவு தேவை
• 128GB+ DDR5 ECC நினைவகம் பல-கேமரா திருத்தத்தின் போது காட்சிகள் தவறுவதைத் தடுக்கிறது
  ProRes RAW பணிச்சுழற்சிகள் 100GB/s-ஐ விட அதிகமான நிலையான நினைவக பேண்ட்விட்த்தை தேவைப்படுத்துகின்றன—இங்கு Threadripper Pro-ன் PCIe 5.0 லேன்கள் போட்டியாளர்களை விட சிறப்பாக செயல்படுகின்றன.

நம்பகத்தன்மை மற்றும் பாதுகாப்பை உறுதி செய்யும் தொழில்நுட்ப தரத்தின் CPU அம்சங்கள்

ECC நினைவகம், வன்பொருள்-அடிப்படையிலான பாதுகாப்பு (AMD SME / Intel SGX) மற்றும் பரிமாண மென்பொருள் சரிபார்ப்பு

தொழில்நுட்ப வேலைநிலைகளுக்கான (enterprise workstations) மையச் செயலி (CPU) தரவுகள் சேதமடைவதைத் தடுப்பதற்கும், பாதுகாப்பு அச்சுறுத்தல்களுக்கு ஆளாவதைத் தடுப்பதற்கும் சிறப்பு அம்சங்களைக் கொண்டிருக்க வேண்டும். எடுத்துக்காட்டாக, ECC நினைவகம் (ECC memory) — இது தரவுகளைச் செயலாக்கும்போது ஏற்படும் சிறிய பிட்-ஃப்ளிப் (bit-flip) பிழைகளைக் கண்டறியும். இது நிதியியல் மாதிரியாக்கம் (financial modeling) அல்லது மரபணு ஆராய்ச்சி (genomic research) போன்ற துறைகளில் மிகவும் முக்கியமானது; ஏனெனில், ஒரே ஒரு தவறான கணக்கீடு கூட முழுமையான முடிவுகளை மாற்றிவிடும். அடுத்து, AMD-ன் நினைவக மறைக்குறியீடு (AMD's memory encryption) மற்றும் Intel-ன் பாதுகாப்பான இயக்கச் சூழல்கள் (Intel's secure execution environments) போன்ற வன்பொருள் பாதுகாப்பு நடவடிக்கைகள் உள்ளன. இவை மெல்லிய மாற்றங்களை ஏற்படுத்தாமல், மென்பொருள் தாக்குதல்களை (malware) வன்பொருள் மட்டத்திலேயே தடுக்கும் சுவர்களை உருவாக்குகின்றன. ஃபர்ம்வேர் (firmware) கூட தனது பங்களிப்பைச் செய்கிறது — இது இயந்திரம் ஒவ்வொரு முறையும் தொடங்கும்போது அனைத்தும் சரியாக ஏற்றம் (boot) செய்யப்படுகிறதா என்பதைச் சரிபார்க்கிறது; இது BIOS அமைப்புகளில் தலையிடுவதைத் தடுக்கிறது. இந்த அனைத்து தொழில்நுட்ப அம்சங்களும் ஒன்றிணைந்து செயல்படும்போது, திட்டவட்டமான நிலைத்தன்மையை தேவைப்படும் தொழில்நுட்பங்களுக்காக 'மூன்று பிரிவுகளைக் கொண்ட பாதுகாப்பு அமைப்பு' (three-pronged defense system) என சிலரால் அழைக்கப்படுகிறது. உண்மையான உலக சோதனைகள், அதிக நினைவக பயன்பாட்டு பணிகளின் போது சுமார் 35–40% வரை கணினி தவறுகளில் (crashes) குறைப்பு ஏற்படுவதைக் காட்டுகின்றன; மேலும், கடுமையான கட்டுப்பாடுகளுக்கு உட்பட்ட துறைகளில் நிறுவனங்கள் சட்ட ஒழுங்குமுறைகளைப் பின்பற்றுவதற்கும் இது உதவுகிறது.

உள்ளார்ந்த வேலைநிலைகளுக்கான AMD மற்றும் Intel CPU ஒப்பீடு

மைய எண்ணிக்கை வர்த்தக சமநிலைகள்: உயர்-மைய செயலிகள் தொடர்புடைய பணிச்சுமைகளில் பதிலளிப்பைக் குறைக்கும் போது

உயர்-மைய எண்ணிக்கை செயலிகள் வடிவமைப்பு, அறிவியல் கணிதம் போன்ற இணையாக்கப்பட்ட பணிகளுக்கு அசாதாரண செயல்திறனை வழங்கினாலும், அவை பெரும்பாலும் தொடர்புடைய பணிச்சுமைகளில் பதிலளிப்பைக் குறைக்கின்றன. உண்மை-நேர பயன்பாடுகள்—எ.கா., உயிருள்ள தரவு காட்சிப்படுத்தல், CAD கையாளுதல் அல்லது நிதியியல் மாதிரியாக்கம்—ஆகியவை உயர் மைய அடர்த்திக்கு பதிலாக குறைந்த தாமத ஒற்றை-நூல் செயல்திறனை தேவைப்படுகின்றன. மைய எண்ணிக்கை 24–32 ஐ மீறும்போது, பல தடைகள் எழுகின்றன:

• அட்டவணை தொடர்பான சுமை : ஓஎஸ் நூல் மேலாண்மை மையங்களுக்கு இடையே பணிகள் நகரும்போது தாமதத்தை ஏற்படுத்துகிறது
• வெப்ப வரம்புகள் : தீவிர பல-மைய முடுக்கம் தடுப்பு நிகழ்வைத் தூண்டி, ஒவ்வொரு மையத்தின் வேகத்தைக் குறைக்கிறது
• நினைவக போட்டி : அதிக மையங்கள் RAM பேண்ட்விட்த்திற்காக போட்டியிடுவதால் அணுகல் தாமதம் அதிகரிக்கிறது

தர நிலை தரவுகள், 64-கோர் செயலி கள் இன்டராக்டிவ் சூழ்நிலைகளில் 16-கோர் சமமான செயலிகளை விட 15–30% மெதுவான பதிலளிப்பு நேரத்தைக் காட்டும் என்பதை வெளிப்படுத்துகின்றன. கலப்பு வேலைச்சுமைகளைக் கையாளும் தொழில்முறை வேலை நிலையங்களுக்கு, இணைந்த செயலாக்கம் மற்றும் பயனர் முகமாக உள்ள பதிலளிப்பு ஆகிய இரண்டிற்கும் சமநிலையான 16–24 கோர் அமைப்பு பொதுவாக சிறந்த செயல்திறனை வழங்குகிறது—அதிக கோர்கள் முழுவதும் முக்கியமான முன்னால் பணிகள் நின்று போகும் போது மட்டும் முடங்கியிருக்கும் விளைவுகளைத் தவிர்க்கிறது.