图像处理ASIC设计方法 笔记11 像素误差与字长优化

news/2024/7/21 4:56:18 标签: 图像处理, 笔记, 人工智能

在这里插入图片描述

P108
P105 定点误差分析与字长优化

1 像素误差是什么原因导致的?

在本书所说的算法中,像素误差是由几次定点运算累加导致的:

首先由行(列)号与定点正弦/正切值计算出该行(列)的小数平移量,然后将这些小数平移量截取一定字长用来计算插值核,再将这些插值核也截取一定字长后与定点像素完成插值计算,得出每步平移后的像素值。

为了合理得出每步运算的字长,本书采用了由后向前的推理策略,依据最终要求的旋转像素精度,依次推测出插值核、小数平移量、正弦/正切等参数的合理字长。

2 如何得出每步运算的字长

以三个定点计算模块为例:整数小数平移量计算单元、插值核计算单元、插值运算单元

(1)整数小数平移量计算单元

这部分的算法,每行的平移量的公式中涉及浮点减法,为避免a,/2量化带来的误差,在结构中将其扩大两倍,即所有中间变量的量化宽度都将增加1位,最终模块输出再右移1位,恢复原位宽(也就是计算过程中多加一位,等最终结果计算完,再减一位)

(2)插值核计算单元

插值核计算中为避免小数量化带来的误差,在结构中将其扩大两倍,故所有中间变量的量化宽度都将增加1位,最终模块输出再右移1位&#


http://www.niftyadmin.cn/n/5439726.html

相关文章

Linux系统——Session ID(负载均衡如何保持会话)

目录 一、实验环境搭建 二、部署Nginx代理服务器配置 三、部署后端真是服务器Tomcat配置 四、配置Tomcat的Session ID会话保持 五、测试 此次实验是Tomcat后端服务器如何做Session ID会话保持 一、实验环境搭建 [rootlocalhost ~]#systemctl stop firewalld [rootlocalho…

安卓面试题多线程 81-85

81. 共享变量在多线程下如何保证线程安全?因为多线程是交替执⾏,每个线程操作共享变量时可能会导致数据不⼀致,要确保线程 安全,需要在访问共享变量时添加同步机制。当然,如果这个变量本⾝是线程安全的,⽐如AtomicLong,那么多线程访问也是安全 的🚀🚀🚀🚀🚀�…

机器学习 - PyTorch 常见的操作

可以用PyTorch做加减乘除操作 import torchtensor_operation torch.tensor([1,2,3]) print(tensor_operation)print(tensor_operation 10) print(torch.add(tensor_operation, 10))print(tensor_operation * 10) print(torch.multiply(tensor_operation, 10))print(tensor_…

conda 的基础操作

Conda 是一个开源的包管理系统和环境管理系统,用于安装多个版本的软件包及其依赖关系,并能够在它们之间轻松切换。以下是一些基本的 Conda 命令: 创建环境 创建一个新的 conda 环境: conda create --name myenv创建一个新的 conda…

【Linux】线程预备知识{远程拷贝/重入函数与volatile关键字/认识SIGCHILD信号/普通信号/实时信号}

文章目录 0.远程拷贝1.重入函数与volatile关键字2.认识SIGCHILD信号3.普通信号/实时信号 0.远程拷贝 打包资源:tar czf code.tgz *远程传输:scp code.tgz usr服务器ip:/home/usr/路径解压:tar xzf code.tgz 1.重入函数与volatile关键字 先看…

css属性之额外补充(快速上手)

1.transform2.过渡动画3.关键帧动画4.vertical align CSS属性 - vertical-align深入理解vertical-align – line boxes深入理解vertical-align – 不同情况分析◼情况一:只有文字时,line boxes如何包裹内容?(注意:红色…

飞天使-k8s知识点27-kubernetes温故知新2-deployment

文章目录 RC和RS无状态应用管理 deployment有状态应用statefulSetdaemonSet RC和RS RC不会使用在生产环境 RS 比RC 多了标签选择器 ,RS 用deployment管理,用于容器编排无状态应用管理 deployment apiVersion: apps/v1 kind: Deployment metadata:name:…

【GitHub】使用git链接下载很慢?试试服务器配置SSH,起飞

参考文献 保姆级教学,教你用配置SSH拉取github代码 CentOS ssh -T gitgithub.comgit config --global user.name "learnore" git config --global user.email "15200831505163.com"cd /root/.ssh vim id_rsa.pubGitHub Settings 结果 下载速…