语义信息论的回顾与展望
时间：2023-08-16 04:22:19
语义信息论的回顾与展望一文创作于：2023-08-16 04:22:19，全文字数：12700。
语义信息论的回顾与展望，提取最重要的语义特征，从而提高语义传输的有效性。J. LIU 等[22]将语义率失真定义为：其中，X1、X2分别是两个用户的语义表示，Y 是边信息。2022 年，P. A. STAVROU 和M. KOUNTOURIS[24]进一步研究了在汉明失真度量下的特征。
语义率失真理论直接对应编码技术，有效的语义编码工作具有高复杂性和挑战性。目前，用双失真度量的方式来表示语义编码是较普遍的做法。Y. SHAO等[25]用语义失真LU和语义成本DU来定义语义编码的可达区域。语义失真反映了接收方和发送方在语义理解上的差异，语义成本则代表了信息的简洁性或可理解性，它可以是相应比特序列的长度。语义成本定义可表述为：若存在一个语义编码方案U使得DU=D，LU= L，则称失真-成本区域(L,D) 是可达的。P.AGHELI[26]等对多用户的语义编码进行了研究，发送端向具有两个不同目标的接收端传输语义，用户根据最大化两个接收端的语义感知效用函数的加权和，分配所选数据包到达的最佳实际码字长度。Y. XIAO 等[27]提出了策略语义通信的率失真理论。该将博弈论模型与率失真理论相结合，以表征语义编码器和解码器之间的信息交互对通信失真性能的影响。
3 语义信道容量
信道容量是信息论的中心问题，也是信息论中最著名的成果。对于一个输入为X、输出为Y的离散无记忆信道，信道容量被定义为：
信道容量指出了在传输信息时可达速率的上界。所有小于信道容量C的码率都可在无差错条件下可达，而所有大于信道容量的码率是不可无差错达到的。也就是说，对任意的码率R < C，存在误差概率趋于0 的一个(2nR,n)码序列；反之，如果码率R > C，那么误差概率将远离0。
语义信道容量的相关研究工作较少。T. OKAMOTO[28]认为语义信道容量可以表示为通过语义信道传输的语义信息的最大速率或者最大语义通信量与通信数据大小的比率。一方面，在该速率下，可以通过语义信道发送语义信息，并在语义信道的输出端恢复信息；另一方面，在信道上的语义数据信息传输速率不可能超过信道的语义容量。
2011，J. BAO等[12]对语义信道容量做出如下定义：
对任意?0? > 0 和R < Cs，存在一种编码策略，使得语义错误的最大概率小于?0?。其中，X是信源，V是传输任务，Z是语义表示，I(X; V)是信源X和传输任务V之间的互信息，H(Z|X)表示编码的语义不确定度，是任务V的接收消息的平均逻辑信息。
语义信道容量可以高于或低于香农信道容量I(X:V)，这取决于语义编码策略和接收机解释所收到消息的能力。若，则意味着接收者可以处理语义歧义，接收者可以用收到的语句回答问题，语义压缩可以实现更高的传输速率。在这种情况下，CS高于香农容量。若H(Z|X)< 0，接收者不能解决原本存在的语义歧义，接收者无法根据收到的语句回答问题，CS低于香农容量。
4 语义信息论展望
如果说目前语义通信处于幼儿期，那么语义信息论则处于婴儿期，仍然有大量开放性问题尚未解决，例如：
1）语义、语义熵、语义编码器是否存在通用的数学表示形式？还是可以分类表示？
2）语义通信的基本性能极限是什么？由于语义通信旨在让传输的符号精确地传达内容含义，因此语义通信的基本性能极限难以用一个具体的容量值描述，应由技术层和语义层所共同决定，其形式应体现多维特点。涉及的极限问题包括但不限于网络容量、最优编码、数据传输速率对语义传输速率的影响等，可能还需要兼顾物理层通信速率与语义解码器表达能力之间的均衡特征。
3）基于深度学习的语义通信系统的理论框架应如何发展？目前深度学习被广泛用于信源信道联合编码和面向任务的通信结构设计，在智能处理服务中逐渐显现其重要性。探索基于深度学习的语义通信的理论框架并给出理论指导，包括其合适的性能指标与语义相似度度量等是非常必要的。
5 结束语
语义通信作为一种新的通信结构，改变了传统的数据传输范式，有望为大型智能处理服务带来新气象。然而，目前的语义通信研究刚刚起步，有大量的工作值得进一步研究，如知识共享框架、资源调度与分配、语义噪声建模与度量等。本文从语义通信的理论角度出发，依次回顾了语义熵、语义率失真和语义信道容量等相关概念，梳理了语义信息论的相关发展，同时对未来语义信息论存在的开放性问题进行了简单讨论。希望这些问题能引起专家学者的关注，助力他们为语义信息论的发展做出更多的贡献。
《语义信息论的回顾与展望》在线阅读地址：语义信息论的回顾与展望