机器学习与深度学习 / 系统课时

NumPy 数据转换

NumPy 数据转换

在数据预处理和模型训练之间,数据经常要在 NumPy 与 PyTorch 之间流动。本课将用一个可运行示例完成双向转换,并重点识别共享内存、复制、数据类型和设备迁移带来的影响。

学习目标

  • 掌握 NumPy 数组与 PyTorch 张量的双向转换方法
  • 判断转换结果是否共享内存,并主动选择共享或复制
  • 处理数据类型、梯度状态和 CPU/GPU 设备边界

从 NumPy 转为张量

torch.from_numpy(array) 会基于 NumPy 数组创建 CPU 张量,两者通常引用同一块底层内存。修改任意一方的数据,另一方会立即看到变化。它适合避免大数组复制,但要求调用者清楚数据是否会被后续代码修改。

torch.as_tensor(array) 会尽量复用原数据;当数据类型或设备不兼容时,也可能发生复制。torch.tensor(array) 则会创建新张量,适合需要数据隔离的场景。

转换方式 内存关系 适用场景
torch.from_numpy(array) 与 NumPy 共享 追求低开销,且能控制修改行为
torch.as_tensor(array) 尽量共享 接收多种输入并减少不必要复制
torch.tensor(array) 独立复制 需要安全隔离原始数据

共享内存的工作方式

共享内存并不是“两个对象内容碰巧相同”,而是 NumPy 数组和 PyTorch 张量都指向同一块 CPU 数据缓冲区。对象本身不同,但数据存储相同;复制操作则会创建新的缓冲区。

NumPy 与 PyTorch 的共享内存关系

主示例:验证双向影响

下面的程序同时演示 NumPy 转张量、张量转 NumPy,以及使用复制切断共享关系。

python
import numpy as np
import torch

def main() -> None:
    array = np.array([[1, 2], [3, 4]], dtype=np.float32)

    # from_numpy 共享内存,torch.tensor 创建独立副本
    shared_tensor = torch.from_numpy(array)
    copied_tensor = torch.tensor(array)

    array[0, 0] = 99
    shared_tensor[1, 1] = -1

    print("NumPy:", array.tolist())
    print("Shared tensor:", shared_tensor.tolist())
    print("Copied tensor:", copied_tensor.tolist())

    tensor = torch.tensor([10.0, 20.0, 30.0])
    shared_array = tensor.numpy()

    shared_array[1] = 200
    isolated_array = tensor.detach().cpu().numpy().copy()
    tensor[0] = 100

    print("Tensor:", tensor.tolist())
    print("Shared NumPy:", shared_array.tolist())
    print("Copied NumPy:", isolated_array.tolist())

if __name__ == "__main__":
    main()

预期输出

text
NumPy: [[99.0, 2.0], [3.0, -1.0]]
Shared tensor: [[99.0, 2.0], [3.0, -1.0]]
Copied tensor: [[1.0, 2.0], [3.0, 4.0]]
Tensor: [100.0, 200.0, 30.0]
Shared NumPy: [100.0, 200.0, 30.0]
Copied NumPy: [10.0, 200.0, 30.0]

前两行变化一致,证明 array 与 shared_tensor 共享内存;copied_tensor 保持原值,证明 torch.tensor 完成了复制。后半部分同理,.copy() 生成的 NumPy 数组不会再跟随张量变化。

数据类型与设备边界

NumPy 的浮点数组常默认为 float64,而深度学习模型通常使用 torch.float32。转换前显式指定 dtype=np.float32,可以避免模型计算时出现类型不一致或额外转换。

张量只有位于 CPU、且能安全脱离计算图时,才能直接转换为 NumPy。通用写法是 tensor.detach().cpu().numpy();若后续代码不应影响原张量,再追加 .copy()。对于 CUDA 张量,缺少 .cpu() 会直接报错;对于需要梯度的张量,缺少 .detach() 也会被拒绝。

安全原则:需要性能且能控制修改时使用共享内存;数据会跨模块传递或可能被修改时,优先创建副本。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

NumPy 数据转换

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通