1.1 通信系统的基本概念
信息的表示与度量
重要程度：7 分
<h2>1.1 通信系统的基本概念 - 信息的表示与度量</h2>
<p><strong>信息：</strong>信息是人们用来交流的内容，它可以是文字、图像、声音等形式。在通信系统中，信息需要被转换成电信号才能进行传输。</p>
<h3>一、信息的表示</h3>
<p>在数字通信系统中，信息通常以二进制形式（0和1）来表示。这种表示方法便于计算机处理和存储，并且能够有效地减少错误率。</p>
<h4>例题1：文本信息到二进制编码</h4>
<p>将英文单词"HELLO"按照ASCII码转换为二进制数。</p>
<code>
H -> 72 (十进制) -> 01001000 (二进制)<br>
E -> 69 (十进制) -> 01000101 (二进制)<br>
L -> 76 (十进制) -> 01001100 (二进制)<br>
L -> 76 (十进制) -> 01001100 (二进制)<br>
O -> 79 (十进制) -> 01001111 (二进制)
</code>
<h3>二、信息的度量</h3>
<p>信息量是用来衡量信息多少的一个指标，常用的信息量单位有比特(bit)。</p>
<ul>
<li><strong>比特(Bit):</strong> 最基本的信息单位，代表一个二进制位（0或1）。</li>
</ul>
<h4>香农公式计算信息熵</h4>
<p>信息熵H(X)用于描述随机变量X的不确定性程度，其数学表达式为：</p>
<code>H(X) = -∑ P(x) * log₂P(x)</code>
<p>其中，P(x)是指事件x发生的概率。</p>
<h4>例题2：基于香农公式的信息熵计算</h4>
<p>假设有一个消息源只发送A, B两个字符，它们出现的概率分别是0.75和0.25，请计算该消息源的信息熵。</p>
<code>
H(X) = -(0.75*log₂0.75 + 0.25*log₂0.25) ≈ 0.811 bits
</code>
这段HTML代码总结了《现代电信技术概论》第一章关于信息表示与度量的重点内容，包括信息如何通过二进制形式表示以及使用香农公式来计算信息熵的方法，并提供了具体的例子帮助理解这些概念。