按照 OpenCL 中的结构访问结构化数据

如何解决按照 OpenCL 中的结构访问结构化数据

总结：OpenCL 是否允许在内核函数中从指向结构的指针和指向同一内存块中结构之后的数据的字节偏移量创建指针？

我试图更好地理解 OpenCL 在指针和结构方面的局限性。我目前正在进行的一个项目涉及处理不同类型的信号节点，从一个处理实例到下一个处理实例，这些节点的状态数据大小可能截然不同。我首先从 Linux CPU 低延迟 SCHED FIFO 实现开始，因此在处理线程中没有内存分配或系统调用，而是尝试为最终的 OpenCL 实现做计划。

考虑到这一点，我开始设计算法以将所有状态数据分配为一个块，该块以一个结构开始，并附加了额外的数据结构和数组，注意数据类型的正确对齐。结构中的整数偏移字段指示缓冲区中附加数据的字节位置。因此，从技术上讲，在将数据从主机传递到设备时，结构中没有任何可能不起作用的指针。然而，状态数据的结果大小将因一个合成节点而异，尽管大小在分配后不会改变。我不确定这是否违反了 OpenCL 的“无可变长度结构”规则。

简单示例（伪 OpenCL 代码）：

// Additional data following Node structure:
// cl_float fArray[fArrayLen];
// cl_uint iArray[iArrayLen];
typedef struct
{
  cl_float val1;
  cl_float val2;
  cl_uint fArrayOfs;
  cl_uint fArrayLen;
  cl_uint iArrayOfs;
  cl_uint iArrayLen;
  ...
} Node;

void
node_process (__global Node *node)
{
  __global cl_float *fArray;
  __global cl_uint *iArray;

  // Construct pointers to arrays following Node structure
  fArray = ((cl_uchar *)node) + node->fArrayOfs;
  iArray = ((cl_uchar *)node) + node->iArrayOfs;
  ...
}

如果这是不可能的，是否有人对定义本质上有点动态的复杂数据结构有任何建议，而无需将数十个指针传递给内核函数？动态性质仅在它们被分配时，而不是在内核正在处理时。我能想到的唯一其他选择是将处理节点状态定义为联合并将额外的数据结构作为参数传递给 Kernel 函数，但这很可能会变成大量的函数参数。或者也许允许使用带有指针的 __local 结构？

解决方法

是的，这在 OpenCL 中是允许的（只要您遵守对齐规则，正如您所提到的），但是您需要非常小心：

首先

fArray = ((cl_uchar *)node) + node->fArrayOfs;
           ^^^^^^^^^^

您在这里错过了内存类型，请确保包含 __global 或默认为 (IIRC) __private，这将直接带您进入未定义行为的领域。通常，我建议明确所有指针声明和类型的内存类型，因为默认值通常不明显。

其次，如果您计划在 GPU 上运行它，如果相邻工作项的控制流和内存访问模式非常不同，那么在性能方面，您将陷入困境。我建议您先阅读 GPU 供应商的 OpenCL 性能优化指南，然后再构建拆分工作和设计数据结构的方式。