ИИ-н ажилд зориулж үндсэн SSD-н үзүүлэлтүүд
Яагаад хоцрогдол бага бөөгнөрүүлэх гүн их нь цэвэр багтаамжийн хойш тулгамдаж ирдэг
ИИ-н өгөрмүүл дата гуурин хоолойд санах ойн нүүрлэх хурд тархилт бага зэрэг хүнд бүрдүүлэх хүчирдүүлэх цэг биш—датаны хүлээж буй идлэх ГПУ-нууд нь үнэнхүү зардал үүсгэдэг. ТБ-н хэмжээс илүү, ССД-н нүүрлэх хурдын тогтвортой бага латенси дээр олон зэрэг I/O хүсэлтүүдийг үйлдэх чадвар нь илүү чухал. Одоогийн NVMe ССД-нууд 128 юм уу түүнээс дээш гуурин гүн дээр санамсаргүй уншилт дээр 3 саяас илүү IOPS-н хурд түрүүнд хүрдэг, үүнээр дутагдалгүй ГПУ-н олон атомын хувьд шинэ сургалтын жишээнийг хүртэл хүртүүлдэг. Бага латенси—ихэвчлэн 100 микросекунд илүүгүй—дүрсүүлэх нүүрлэх бүлгүүдийн бодит цагт хөдөлгөөнүүдийг хадгалдэг, харин гүн гуурин дэмжлэх чадвар нь тарааж сургах ажлын хүчтэр бүрдүүлэх, параллель хүсэлтүүдийн хүчтэр хүсэлтүүдийг шингэдэг. Шууд ГПУ-наас санах ой руу хандах нь туршилтын баталгаа үзүүлдэг: үлдсэн SAS/SATA давхаргуудыг арилгах нь латенси шүүрлүүдийг арилгадэг, бүх дата замыг хялбаршгадэг. Багтаамжийг ямагт хоризонтал бүрдүүлэх боломжтой, гэтэл муу гуурин гүн удирдлага ба өндөр тайла латенси ГПУ-н ашиглалтыг хүчтэр бүрдүүлдэг, сургалтын хугацаа ба зардал резко өсдэг.
Сургалт ба дүгнэлтийн хоолойд тогтвортой холимог ачааллын төвхний чухал үүрэг
ИИ-ийн ачааллууд нь ихэвчлэн цистерн уншилт биш; сургалтын үед шинэчлэлт, градиентийн шинэчлэлт ба метадатын бүртгэл нь идэвхтэй бичлэгийн цуглуулалт үүсгэдэг, харин дүгнэлт нь ихэвчлэн уншилт-оптимизированнын дисковс дээрх загваруудыг дахин тоглуулдэг. Түүнд харгалзан, SSD-д тогтвортой холимог ачааллын дарлалд төвхнөж, хурдны бууралт эсвэл илүүдэл бичлэгийн үржилтгүй тааруулж чадах ёстой. Эдгээр нөхцөлд зориулан хиймэл ухааны инфраструктурын хувьд хиймэл ухааны үйлдвэрлэлийн SSD-д DWPD (хоногт дисковс бичлэг) ба TBW (нүүрлүүлсэн нийт байт) гэх мэт төвхний үзүүлэлтүүдийг нийтлэдэг, учир нь уншилтад зориулан оптимизированнын QLC SSD-д хоногт уншилт ба хүнд бичлэгийн дараалал үүсгэдэг нь түүнийг урьдчилан дуусгаж чаддаг. Холимог ачааллын төвхний хүчтүүн SSD-д сонгох нь хамгаалалтгүй өөрчлөлт ба төлөвлөгүй зангилаа солилцооноос саатуулж, ИИ-ийн хоолойд надёжностыг хадгалдэг — долоо хоногийн сургалт хүртэл 24/7 дүгнэлтийн үйлчилгээ хүртэл.
ИИ-ийн инфраструктурын хувьд оптимизированнын үйлдвэрлэлийн SSD-д форм-факторууд
PCIe 5-р үе/6-р үе NVMe SSD-үүд ба Нягт ба Дулааны Үр дүнтэй бүтэц хүртэлх EDSFF (E1.S/E3.S) технологийн өсөлт
ИИ-н ажилд хадгалах төхөөрөмж нь GPU-н санах ойн өргөн хүрээд хурдтай нийцжүүр, ийнхүү интерфейс нь чухал саад болж байна. PCIe Gen5 NVMe SSD-н дамжуулалт нь нэг төхөөрөмжид 14 ГБ/с хүртэл хоёр дахин нэмэгдүүр, харин анхны Gen6-н тодорхойлолтууд нь түүнийг 28 ГБ/с-с илүүр түлхүүр — үүнээр тренингийн кластеруудын өндөр өгөгдөл шаардуур чанарыг үнэн зөв тусгаж байна. Гэтэл цөвхөн хурд л хангалтгүй; нягт серверийн шүүртүүд нь U-н нэгжид агаарын урсгалыг баатарлах, багтаамжийг нэмэгдүүр хэлбэрүүд шаардуур. Enterprise and Datacenter Standard Form Factor (EDSFF), түүнд онцгой Е1.S ба Е3.S стандартууд нь урт, нарийн хэлбэртэй бөлгөөнүүдийг санал болгож, урт, өргөн U.2 төхөөрөмжүүдтэй харьцуулж байна. Энэ дизайн нь дулааны салхилуур үүрдүүлэх чадварыг сайжруулж, хүчтэр хөөрхийн гүн хүртэл үйл ажиллагаа тогтвортой явуулж, хурдыг бүүрдүүлж байна. Нэг 1U серверт одоо 32 Е1.S төхөөрөмж суулгаж болох бөлгөөн, харин U.2 төхөөрөмжүүдтэй харьцуулж 24 ширхэг — хадгалах нягтыг 30% илүүр нэмэгдүүр. ИИ-н үйл ажиллагаа томорч байх тусам, индустрийн нийт санал нь PCIe Gen5 ба ирээдүйн Gen6-н суурьлалд EDSFF-н талд хүчтэр шилжүүр, үүнээр хурд, нягт ба үр дүнтэй дулааны удирдлагыг нэг стандартад нийцүүр.
Шингэн хөхрүүлэгч SSD-үүдийн бодит цагт ИИ-н дүгнэлтийн кластеруудад суурьшул
Бодит цаг үеийн хиймэл оюун ухааны дүгнэлт нь хөдөлгөөнт түвшинд дулаан дулаантай холбоотой хоцрогдолжилтыг тэвчиж чадахгүй. SSD-үүд хамгийн их унших/ бичэх хурдтай нь ойрхон хэдэн цагийн турш ажиллахад, уламжлалт агаар хүйтэнжилт нь NAND болон хяналтын температурыг аюулгүй хязгаарт хадгалахын тулд ихэвчлэн тэмцдэг. ЦУ болон ГПУ-д аль хэдийнээ түгээмэл болсон шууд чипт шилжих бодисыг NVMe SSD-д өргөжүүлж байна. Аль нэг хөтөчтэй холбогдсон хүйтэн цэгүүдээр хүйтэн бодисыг эргэлтэд оруулж, халуун байдлыг хатуу агаарынхнаас илүү үр дүнтэй арилгаж, бүрэн ачаалалтай ч гэсэн 100 мкс-ээс доош 4 КБ-ийн ээлжит бус унших хоцролд хад Нүүрний дүгнэлт хийх багцлагуудад орон зай, хүчин чадлыг маш ихээр хязгаарлаж байгаа бол усны хүйтэнжилт нь дуу чимээ эсвэл нэмэлт агаарын урсгалын фенүүдгүйгээр илүү өндөр хөдөлгөөнт нягтралыг боломжуулдаг. Энэ арга нь агаарын эрчим хүчийг бууруулж, SSD-ийн амьдралыг бага температурын ачаар сунгаж, эзэмших нийт зардлыг бууруулдаг. Үр дүнд оруулах шугам сүлжээ нь хоцрогдолтой байх тул бодисын хүйтэнжилт, EDSFF хэлбэрийн хүчин зүйлсийн хольцоо дараагийн үеийн хиймэл оюун ухааны дэд бүтцийн стандарт болж байна.
NAND технологи ба түүний төвөгтэй бүтэц: ИИ-н хэрэглээний үүднээс TLC ба QLC SSD-үүдийн бат бүтэн байдал
ИИ-н сургалтад QLC SSD-үүд: Тогтвортой холимог ачаалал доорх бичих төвөгтэй бүтэн байдалд харьцуулан зардлын үр дүнтэй байдал
QLC (Дөрвөн түвшний нүд) SSD-ууд нүд бүрт дөрвөн бит багтаадаг, түүн дээр TLC (Гурван түвшний нүд) SSD-уудаас гигабайт тутамд хямд үнэтэй бөлгөн нэг драйв дотор 60 ТБ хүртэлх багтаамжийг хангаж чаддаг. Энэ үнэтүүшний давуу тал QLC-ыг петабайт хэмжээнд хүрдэг өгүлдүүр датасет-үүдтэй том ИИ загваруудыг сургахад татагдах болгомуй. Гэтэл түүнд хүртэмүүр бүрдүүлэх хувьд илт зөрүү байдаг. QLC NAND-ын хувьд программаар бичих/устгах цикл нь ердөө 100–1000 удаа л хүртэмүүр бүрдүүлж чаддаг, түүн дээр DWPD үзүүрлүүр нь 0.1–0.3 байдаг. ИИ сургалтын хоолойд урт хугацааны холимог ажил ачаалал үүсдэг: том датасет-үүдийг уншиж, түүдүүр дундаж градиентуудыг ба шинэчлэлтийн цэгүүдийг олон удаа бичиж. Түүн дээр QLC-ын SLC бичих кэш нь хурдан дүүрдэг, түүн дээр анхны QLC-ын бавхан удаан бичих хурд илрүүрдэг, нүдүүдийн хүртэмүүр бүрдүүлэх хувьд хурдан мууддаг. Бичих үржил—тухайн тохиолдолд жижиг санамсүрүүгүй бичих үед—хүртэмүүр бүрдүүлэх хувьд нэмж мууддаг. Дүгнэлт-төвдүүр үүрдүүр юм уу унших ажил ачаалалд тулгуурлан ажилладаг ИИ даалгавруудын хувьд QLC SSD-ууд хүртэмүүр бүрдүүлж чаддаг. Гэтэл хувилах циклуудын хувьд зуунтаа хувилах үед бичих ажил ачаалал өндөр байдаг тохиолдолд TLC SSD-ууд—DWPD үзүүрлүүр нь 1–3—драйв хурдан гэмтэх юм уу өгүлдүүр алдагдахыг саархуулж чаддаг хүртэмүүр бүрдүүлэх хувьд хангалттай давуу тал үүсгүүрдэг.
TBW ба DWPD-ийн хэмжүүрүүд: Корпорацийн ИИ-ийн SSD сонголтын тулд төвхний хэмжүүрүүдийг тайлбарлах
Корпорацийн SSD-ийн төвхнүүр хоёр гол хэмжүүрт илэрхийлэгддүүр: TBW (нүүр бүхлээр бичигдсэн байт) ба DWPD (хөдөлгүүрт өдөрт бичигдсэн удаа). TBW нь хөдөлгүүрт амьдралын хугацаанд бичигдсэн нүүр бүхлээр бичигдсэн өгөгдлийн хэмжээг тодорхойлдүүр, харин DWPD нь гарантийн хугацаанд хөдөлгүүрт өдөрт бүхлээр бичигдсэн удааг заадүүр. ИИ-ийн ажилт өдөрт бичигдсэн өгөгдлийн хэмжээг үнэлэх чухал. Жишээлбэл, 3.84 ТБ багтаамжтай өгөгдлийн төвхний хөдөлгүүрт таван жилийн дотор 7000 ТБW үзүүрлэдүүр — үүнээс 1 DWPD гардүүр. Типик корпорацийн TLC SSD нь 1–3 DWPD үзүүрлэдүүр, шүүлт, бүртгэл ба сургалтын үед градиент бичигдсэн үйлдлүүдийн хувьд хангалттай. Харин QLC суурилт хөдөлгүүрт үзүүрлүүд нь ихэвчлэн 0.1–0.3 DWPD байдүүр, үүнээс өдөрт бичигдсэн үйлдлүүдийн хэмжээ нь хүчтэр бага байдүүр. Харьцуулалтын хүснэгт сонголтыг хялбаршгүүр:
| NAND төрөл | Типик DWPD | Типик TBW (3.84 ТБ хөдөлгүүрт) | ИИ-ийн ажилт тохиромжит байдал |
|---|---|---|---|
| TLC корпорацийн | 1 – 3 | 7000 – 21000 ТБ | Өндөр интенсив сургалт, холимог уншигдаж/бичигдэж |
| QLC Enterprise | 0.1 – 0.3 | 700 – 2,100 ТБ | Уншилт-төвдүүр ажиллагаа, метадатаны кэшлэх |
ИИ-н хувьд SSD-үүдийн үнэлэх үед төлөвлөгдсөн өдөрт бичигдэх хэмжээг гарантийн хугацаагаар үржүүлж, TBW-н зорилго нь ажиллах нөхцлүүдтэй таарч, хүлээгдэхгүй дуусал, тогтвортой ажиллах үед өгөгдлүүдийн бүтэн байдалыг хангахыг баталгаажуулна.
Түүн дээр асуух
Яагаад ИИ-н ажиллагаанд бага хоцрогдол чухал вэ?
Бага хоцрогдол GPU-н цөмүүдэд өгөгдлүүд хурдан хүрч, хоцрогдлын цагийг багасгаж, сургалт ба дүгнэлтийн ажиллагаанд бодит цагт ажиллах чадварыг хадгалж үлдээдэг.
ИИ-н ажиллагаанд SSD-үүдийн үндсэн түүхүүр үзүүрлүүд юу вэ?
Түүхүүр үзүүрлүүд нь DWPD (өдөрт драйв дээр бичигдэх удаа) ба TBW (нүүрд бичигдэх нийт байт), яг үүнээр драйв өдөрт хичнээн удаа бичигдэж чадахыг, түүний амьдралын туршид нийт хичнээн байт бичигдэж чадахыг илтгэндэг.
Шингэн хөхрүүлэлт ИИ-н дүгнэлтийн кластеруудад SSD-үүдийн хувьд яаж хоногтой вэ?
Цусны хүйтэнжилт нь дулаан хүйтэнжилтийг урьдчилан сэргийлэх, тогтмол бага хоцрогц байдлыг хангах, эрчим хүчний хэрэглээг бууруулах, нэмэлт хүйтэнжилтийн вентиляторгүйгээр илүү өндөр SSD нягт байдлыг боломжуулдаг.
ЭЗХ-ны хэлбэрийн хүчин зүйл нь хиймэл оюун ухааны дэд бүтцийн хувьд ямар давуу талтай вэ?
EDSFF хэлбэрийн хүчин зүйлүүд болох E1.S, E3.S нь дулааны үр ашгийг сайжруулж, хадгалах нягтралыг нэмэгдүүлж, GPU санах ойн хоолойн хэтрүүлгийн өргөн хүрээний шаардлагыг дэмждэг.
QLC SSD-үүд нь хиймэл оюун ухааны ачаалалтай харьцуулахад TLC SSD-үүдтэй хэрхэн харьцуулагддаг вэ?
QLC SSD нь бага зардлыг, өндөр хүчин чадлыг санал болгодог боловч холимог ачаалалд тэсвэртэй байдаггүй. TLC SSD нь өндөр бичгийн хүчтэй ажил хийхэд илүү сайн тэсвэртэй байдаг бөгөөд үүнийг хиймэл оюун ухааны сургалтын усан шугамд тохиромжтой болгодог.
Агуулгын хүснэгт
- ИИ-н ажилд зориулж үндсэн SSD-н үзүүлэлтүүд
- ИИ-ийн инфраструктурын хувьд оптимизированнын үйлдвэрлэлийн SSD-д форм-факторууд
- NAND технологи ба түүний төвөгтэй бүтэц: ИИ-н хэрэглээний үүднээс TLC ба QLC SSD-үүдийн бат бүтэн байдал
-
Түүн дээр асуух
- Яагаад ИИ-н ажиллагаанд бага хоцрогдол чухал вэ?
- ИИ-н ажиллагаанд SSD-үүдийн үндсэн түүхүүр үзүүрлүүд юу вэ?
- Шингэн хөхрүүлэлт ИИ-н дүгнэлтийн кластеруудад SSD-үүдийн хувьд яаж хоногтой вэ?
- ЭЗХ-ны хэлбэрийн хүчин зүйл нь хиймэл оюун ухааны дэд бүтцийн хувьд ямар давуу талтай вэ?
- QLC SSD-үүд нь хиймэл оюун ухааны ачаалалтай харьцуулахад TLC SSD-үүдтэй хэрхэн харьцуулагддаг вэ?