博客

打破AI的记忆墙

在技​​术创新不断发展的弧线中,人工智能(AI)日益庞大。为了模仿人类的行为,该技术涉及能源,农业,制造业,物流,医疗保健,建筑,运输以及几乎所有其他可以想象到的行业,这一定义性角色有望快速追赶第四次工业革命。而且,如果业界的先知正确无误,那么AI的增长将毫无爆炸性。

到2025年,物联网(IoT)和4G / 5G都是重要的AI推动力,预计将占设备连接的75%以上。为了处理AI承诺的核心搜球吧直播nba直播量,从30多个在全球数十亿个互联设备上,该行业现在需要突破关键技术的局限性:内存。

记忆是关键的AI瓶颈

内存的挑战始于性能。从历史上看,每十年,计算机性能的提高就比内存速度的提高快了100倍,并且在过去20年中,这种差距不断扩大。这种趋势的结果是内存已成为计算机和AI性能的瓶颈。

业界通过开发几种在AI芯片上实现存储系统的方法来做出回应,每种方法专用于不同的性能需求,并且每种方法都需要不同的权衡。在领先者中:

  • 片上存储器 提供最高的带宽和功率效率,但容量有限。
  • HBM(高带宽内存) 提供很高的内存带宽和密度。
  • GDDR 在带宽,功率效率,成本和可靠性之间提供了很好的折衷方案。

自2012年以来,人工智能培训能力已增长30万倍。增长速度超过摩尔定律25,000倍,每3.5个月翻一番,与18个月的摩尔定律增长周期相比,增长速度非常快。最近的惊人改进归功于并行计算能力和新型专用硅,例如Google的Tensor处理单元(TPU)。

专用的硅架构和并行引擎是维持未来在计算性能方面取得进步以及应对摩尔定律的放慢和功率缩放终止的关键。通过重新考虑针对某些市场设计处理器的方式,芯片制造商可以开发专用硬件,其能效比通用处理器高100到1,000倍,从而克服了扩展计算性能的另一个重大限制:处理能力。

就其本身而言,内存行业可以通过以更高的搜球吧直播nba直播速率发送信号并使用诸如HBM之类的堆叠架构来提高能源效率和性能,以及通过使计算更接近搜球吧直播nba直播来提高性能。

AI的内存扩展

关键挑战是为人工智能(AI)应用扩展内存。消费者对更好的语音,手势,面部识别体验以及更加身临其境的虚拟现实和增强现实交互的需求日益重要。提供这些体验需要高性能计算(HPC)的更多计算能力,以使大搜球吧直播nba直播分析成为可能,自己运行分析以及使用AI和机器智能生成有意义的见解的机器学习过程。

新兴的机器学习应用程序包括分类和安全性,医学,高级驾驶员辅助,人工辅助设计,实时分析和工业自动化。到2025年,预计将有750亿个与IoT连接的设备生成搜球吧直播nba直播,因此将不乏需要分析的搜球吧直播nba直播。例如,新的空中客车A380-1000的机翼仅具有10,000多个传感器。这些搜球吧直播nba直播的山峰存储在磁性硬盘驱动器上的海量搜球吧直播nba直播中心中,然后转移到DRAM,然后再转移到CPU内的SRAM,以便移交给计算硬件进行分析。

随着存储搜球吧直播nba直播呈指数级增长,问题是如何确保所有其他存储系统都能够处理大量搜球吧直播nba直播。 AMD的答案是一种小芯片体系结构,该体系结构的边缘有8个较小的芯片来驱动计算,而中央的大芯片则使IO接口和内存能力加倍,从而使芯片带宽加倍。

AMD还从传统的GDDR5内存芯片配置转变为HBM(高带宽内存),以使内存带宽更接近GPU,从而可以更有效地处理AI应用程序。 HBM提供了更高的带宽,同时降低了功耗。与DRAM相比,AMD的HBM提供了比DRAM更快的搜球吧直播nba直播速率和更大的内存密度,从而使内存更接近GPU,从而可以更有效地处理AI应用程序。

在接下来的十年中,希望通过多芯片架构,内存技术和集成方面的创新,积极的3D堆栈以及简化的系统级互连来提高性能。业界还将继续通过技术扩展来推动设备性能的提高,计算密度和功耗。

COVID-19声明:
此时,Shin-Etsu MicroSi,Inc.已打开并正常运行。我们将继续密切监视局势,并遵循公共卫生官员,疾病预防控制中心,世界卫生组织以及地方和美国政府的指导,迅速采取行动以采取适当的预防措施。我们可能会调整正常的操作程序以支持社会疏离准则。我们将继续向您通报任何进展。