什么是 AI 硬件？

AI 硬件是运行 AI 算法或模型所必需的专用硬件。AI 模型需要大规模计算能力和内存才能运行并生成结果。AI 硬件通过将强大的硬件组件组合成能够并行处理大型数据组件的分布式架构来提供必要的计算能力。

AI 硬件执行的功能与普通硬件相同，但规模要大得多。其独特的结构支持并行数据处理，并确保其能够处理大量数据。AI 硬件通常为 AI 工作负载定制构建，并提供比普通硬件所能提供的更多资源。

大规模处理

AI 硬件使用专用处理单元，例如图形处理单元（GPU)、张量处理单元（TPU）和自然处理单元（NPU）。这些更高级的处理单元可以并发处理更大量的运算，这对于复杂且资源密集型的 AI 工作负载至关重要。由于 GPU 拥有众多较小的处理核心，可一次分配和管理多个任务，因而能够有效处理并行任务；而 TPU 和 NPU 则针对神经网络处理进行了优化。

专用电子器件

AI 硬件还将专用集成电路（ASIC）用于特定的应用场景和功能。与通用处理器不同，ASIC 是为一小部分功能定制设计的，例如机器学习推理或 AI 应用程序所需的特定类型计算。优化包括计算逻辑，以及针对特定 AI 工作负载进行微调的内存和输入/输出接口等其他组件的集成。此 AI 硬件系统可以高速处理大型数据集和复杂算法，从而提升效率。

改进的内存

AI 系统还需要比普通硬件所允许的多得多的存储和内存。快速存取存储器（RAM）和固态硬盘（SSD）是 AI 硬件的两个核心组件。RAM 为处理器提供对数据的快速访问，而 SSD 则提供较高的读写速度，以满足 AI 工作负载的需求。

AI 硬件可加快 AI 训练速度并提升 AI 模型性能。

提高性能

GPU、ASIC、TPU 和 NPU 等 AI 硬件可以提高 AI 系统完成计算的速度。对于自然语言处理、图像识别或其他深度学习等特定 AI 任务，可用的 AI 硬件有助于模型提供更好的性能。研究人员还可以更快地训练新模型，从而加快新人工智能功能和系统的部署。

能源效率

通过提高能源利用率，AI 硬件降低了运行 AI 系统对环境的影响。专用处理器和系统使 AI 系统能够在提供相同结果的同时消耗更少的功耗。AI 训练和运行中高效的能源使用，也意味着在冷却塔上花费的能源更少，从而降低运营成本和能源消耗。

可扩展性

研究人员可以将更多处理单元添加到 AI 系统，以实现水平扩缩。他们可以在云端运行模型，以提升处理能力并满足模型的需求。

企业还可以通过增强组成系统的单个处理单元，来对 AI 硬件进行垂直扩缩。例如，研究人员可以针对特定任务将 GPU 升级为 ASIC，从而对系统的工作负载处理能力进行垂直扩缩。

灵活性

企业可以对 ASIC 等人工智能硬件组件进行定制，以支持 AI 的特定功能。使用这种专用硬件，您可以在很大程度上提升特定任务的性能。

多个核心组件支持在 AI 算法内有效地进行数据处理和计算。

处理器

AI 硬件使用专用处理器，为人工智能系统提供实现最佳性能所需的计算资源。例如：

• 图形处理单元（GPU）支持 AI 算法所依赖的并行处理。
• 张量处理单元（TPU）可有效管理深度学习算法和应用程序中的数学运算。
• 神经处理单元（NPU）采用类似人脑的架构结构，以尽可能高效地处理信息。

应用程序特定集成电路也是专注于某一特定任务的 GPU。它们为需要执行特定任务的 AI 应用程序提供高性能。

上述所有处理器均是对传统硬件中常见的传统中央处理单元的演进。

内存

除计算资源外，人工智能硬件还需要为模型提供大容量内存和存储空间，以运行其各项进程。如前所述，AI 硬件主要使用 RAM 和 SSD 来提供快速数据访问和有效的存储。

以下是研究人员在 AI 硬件中可能使用的几种内存类型。

• 高带宽内存（HBM）提供低延迟和高数据吞吐量，以支持 AI 计算的快速数据访问。
• 图形双倍数据速率（GDDR）是一种超高性能内存，能够更好地满足并行处理的需求。
• 动态随机存取存储器（DRAM）将数据位存储在集成电路中，以低功耗实现较短的写入和擦除时间。

互连

互连是指模型在其存储和内存组件与处理器之间传输数据的路径。互连可确保在数据处理和计算中不存在可能拖慢人工智能系统速度的瓶颈。

AI 硬件可以使用各种硬件结构，每种结构都为模型提供不同的优势。

Von Neumann 架构

Von Neumann 架构是硬件基础设施的传统方法。这种架构涉及中央处理单元、主内存组以及 CPU 与内存之间的互连。CPU 包含一个控制单元，用于决定程序将做什么；以及一个数据通路，用于执行指令计算。

尽管这种架构历史悠久，但内存与 CPU 之间的分离可能会导致 Von Neumann 瓶颈。这种瓶颈会降低性能并影响实用性，对 AI 模型尤为如此。

神经形态架构

神经形态架构是研究人员为模拟人脑结构而设计的一类硬件。该基础设施将优先并行处理和事件驱动计算，旨在降低功耗。尽管信息处理在神经形态架构中前景广阔，但该领域仍处于开发阶段。

数据流架构

数据流架构与 Von Neumann 结构的不同之处在于，该架构没有单一的中央处理单元。相反，数据流经该架构，并在必要时触发特定操作。对于具有可预测数据流的 AI 技术，该架构可以提供高度的效率。

亚马逊云科技上的 AI 基础设施提供全面、安全、高性价比的 AI 基础设施 – 可满足您的所有训练和推理需求。借助计算、网络和存储领域广泛、深入的 AI 和 ML 功能集进行构建。通过托管服务，使用最新的专用芯片或 GPU 运行分布式训练作业。例如

• Amazon Elastic Compute Cloud（EC2）Trn1 实例由 Amazon Trainium 加速器提供支持，专为生成式人工智能模型的高性能深度学习（DL）训练而构建，这些模型包括大语言模型（LLM）和潜在扩散模型。
• Amazon Elastic Compute Cloud（Amazon EC2）P5 实例由新一代 NVIDIA H100 Tensor Core GPU 提供支持，在 Amazon EC2 中为深度学习（DL）和高性能计算（HPC）应用程序提供极高性能。
• Amazon EC2 G5 实例是基于 NVIDIA GPU 的新一代实例，可用于各种图形密集型和机器学习使用案例。

立即创建免费账户，开始使用亚马逊云科技上的 AI 硬件。