معرفی پرظرفیت‌ترین تراشه حافظه تاریخ برای مصارف هوش مصنوعی توسط سامسونگ

سامسونگ یک تراشه حافظه با پهنای باند بالا (HBM) توسعه داده است که بالاترین ظرفیت را در این صنعت دارد. غول کره جنوبی ادعا می‌کند که تراشه HBM3E 12H هم عملکرد و هم ظرفیت را بیش از 50 درصد افزایش می‌دهد. این تراشه در توسعه هوش مصنوعی کاربردهای بسیاری دارد.

براساس اعلام رسمی بلاگ سامسونگ، تراشه حافظه HBM3E جدید تا ظرفیت 36 گیگابایت در هر پشته را ارائه می‌دهد. این تراشه جدید اولین حافظه 12 پشته‌ای HBM3E در دنیاست که بالاترین ظرفیت تا‌ به‌ امروز را دارد. HBM3E 12H سامسونگ پهنای باند بالا تا 1280 گیگابایت بر ثانیه را فراهم می‌کند و در مقایسه با تراشه 8 پشته‌ای HBM3 8H، بیش از 50 درصد بهبود یافته است.

تراشه حافظه HBM3E 12H سامسونگ

سامسونگ در تراشه جدید به کاهش ضخامت مواد NCF خود ادامه داده و به کمترین فاصله بین تراشه‌ها (7 میکرومتر) دست یافته است. این امر منجر به افزایش تراکم عمودی حدود 20 درصدی در مقایسه با HBM3 8H می‌شود. به‌عبارتی، این تراشه جدید تقریباً به‌اندازه همان ارتفاع پشته 8H است و امکان استفاده از بسته‌بندی HBM مشابه را فراهم می‌کند.

مدل‌های هوش مصنوعی مولد مانند ChatGPT به تعداد زیادی تراشه حافظه نیاز دارند. چنین تراشه‌هایی به مدل‌های هوش مصنوعی مولد این امکان را می‌دهند که جزئیات مکالمات گذشته کاربر را به خاطر بیاورند تا پاسخ‌های طبیعی‌تری ارائه دهند.

با رشد تصاعدی برنامه‌های هوش مصنوعی، انتظار می‌رود HBM3E 12H یک راه‌حل بهینه برای سیستم‌های آینده باشد که به حافظه بیشتری نیاز دارند. برای مثال، پردازنده گرافیکی انویدیا H200 دارای 141 گیگابایت HBM3E است که درمجموع با سرعت 4.8 ترابایت بر ثانیه کار می‌کند. H200 از شش ماژول 24 گیگابایتی تراشه HBM3E 8H استفاده می‌کند. همین ظرفیت را می‌توان تنها با چهار ماژول تراشه جدید 12H به‌دست آورد.

براساس برآوردهای سامسونگ، ظرفیت بیشتر تراشه 12H، سرعت آموزش هوش مصنوعی را تا 34 درصد افزایش می‌دهد.