CANN/ge AIPP色域转换参数设置

aclmdlSetAIPPCscParams【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√功能说明动态AIPP场景下设置CSC色域转换相关的参数若色域转换开关关闭则调用该接口设置以下参数无效。YUV转BGR | B | | cscMatrixR0C0 cscMatrixR0C1 cscMatrixR0C2 | | Y - cscInputBiasR0 | | G | | cscMatrixR1C0 cscMatrixR1C1 cscMatrixR1C2 | | U - cscInputBiasR1 | 8 | R | | cscMatrixR2C0 cscMatrixR2C1 cscMatrixR2C2 | | V - cscInputBiasR2 | BGR转YUV | Y | | cscMatrixR0C0 cscMatrixR0C1 cscMatrixR0C2 | | B | | cscOutputBiasR0 | | U | | cscMatrixR1C0 cscMatrixR1C1 cscMatrixR1C2 | | G | 8 | cscOutputBiasR1 | | V | | cscMatrixR2C0 cscMatrixR2C1 cscMatrixR2C2 | | R | | cscOutputBiasR2 |色域转换参数值与转换前图片的格式、转换后图片的格式强相关您可以参考《ATC离线模型编译工具用户指南》根据转换前图片格式、转换后图片格式来配置色域转换参数。如果手册中列举的图片格式不满足要求您需自行根据实际需求配置色域转换参数。函数原型aclError aclmdlSetAIPPCscParams(aclmdlAIPP *aippParmsSet, int8_t cscSwitch, int16_t cscMatrixR0C0, int16_t cscMatrixR0C1, int16_t cscMatrixR0C2, int16_t cscMatrixR1C0, int16_t cscMatrixR1C1,int16_t cscMatrixR1C2, int16_t cscMatrixR2C0, int16_t cscMatrixR2C1, int16_t cscMatrixR2C2, uint8_t cscOutputBiasR0, uint8_t cscOutputBiasR1, uint8_t cscOutputBiasR2, uint8_t cscInputBiasR0, uint8_t cscInputBiasR1, uint8_t cscInputBiasR2)参数说明参数名输入/输出说明aippParmsSet输出动态AIPP参数对象的指针。需提前调用aclmdlCreateAIPP接口创建aclmdlAIPP类型的数据。cscSwitch输入色域转换开关取值范围0关闭色域转换开关设置为0时则设置以下参数无效1打开色域转换开关cscMatrixR0C0输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR0C1输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR0C2输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR1C0输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR1C1输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR1C2输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR2C0输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR2C1输入色域转换矩阵参数。取值范围[-32677 ,32676]cscMatrixR2C2输入色域转换矩阵参数。取值范围[-32677 ,32676]cscOutputBiasR0输入RGB转YUV时的输出偏移。取值范围[0, 255]cscOutputBiasR1输入RGB转YUV时的输出偏移。取值范围[0, 255]cscOutputBiasR2输入RGB转YUV时的输出偏移。取值范围[0, 255]cscInputBiasR0输入YUV转RGB时的输入偏移。取值范围[0, 255]cscInputBiasR1输入YUV转RGB时的输入偏移。取值范围[0, 255]cscInputBiasR2输入YUV转RGB时的输入偏移。取值范围[0, 255]返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明如果通过aclmdlSetAIPPInputFormat接口设置的原始图像格式为YUV400则不支持通过本接口设置色域转换参数。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考