ΠŸΠΎΠΌΠΎΡ‰ΡŒ Π² написании студСнчСских Ρ€Π°Π±ΠΎΡ‚
АнтистрСссовый сСрвис

НСгэнтропия отраТСния ΠΊΠΎΠ½Π΅Ρ‡Π½Ρ‹Ρ… мноТСств

Π Π΅Ρ„Π΅Ρ€Π°Ρ‚ΠŸΠΎΠΌΠΎΡ‰ΡŒ Π² Π½Π°ΠΏΠΈΡΠ°Π½ΠΈΠΈΠ£Π·Π½Π°Ρ‚ΡŒ ΡΡ‚ΠΎΠΈΠΌΠΎΡΡ‚ΡŒΠΌΠΎΠ΅ΠΉ Ρ€Π°Π±ΠΎΡ‚Ρ‹

Π£ΠΊΠ°Π·Π°Π½Π½ΠΎΠ΅ нСгэнтропийноС ΠΏΡ€ΠΎΡ‚ΠΈΠ²ΠΎΡ€Π΅Ρ‡ΠΈΠ΅ снимаСтся (ΠΊΠΎΠ³Π΄Π° этого Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ ΠΏΠΎΠ·Π½Π°Π²Π°Ρ‚Π΅Π»ΡŒΠ½Π°Ρ ситуация), Ссли ΠΏΡ€ΠΈΠ½ΡΡ‚ΡŒ, Ρ‡Ρ‚ΠΎ СдинствСнный элСмСнт ΡΠ²ΡΠ·ΡƒΡŽΡ‰Π΅Π³ΠΎ мноТСства K ΠΈΠΌΠ΅Π΅Ρ‚ ΠΊΠΎΠ΄ Π΄Π»ΠΈΠ½ΠΎΠΉ Π² ΠΎΠ΄ΠΈΠ½ символ. Π’ ΡΡ‚ΠΎΠΌ случаС, снова рассматривая ΡΠΎΠ²ΠΎΠΊΡƒΠΏΠ½ΠΎΡΡ‚ΡŒ мноТСств ΠΊΠ°ΠΊ систСму ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½ΠΎΠΉ связи, ΠΌΠΎΠΆΠ½ΠΎ ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ ΠΎΡ‚ ΠΈΡΡ‚ΠΎΡ‡Π½ΠΈΠΊΠ° ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ (мноТСства А) Π² ΠΊΠ°Π½Π°Π» связи (мноТСство K) поступаСт объСм ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ Π² Π²ΠΈΠ΄Π΅… Π§ΠΈΡ‚Π°Ρ‚ΡŒ Π΅Ρ‰Ρ‘ >

НСгэнтропия отраТСния ΠΊΠΎΠ½Π΅Ρ‡Π½Ρ‹Ρ… мноТСств (Ρ€Π΅Ρ„Π΅Ρ€Π°Ρ‚, курсовая, Π΄ΠΈΠΏΠ»ΠΎΠΌ, ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½Π°Ρ)

ΠžΠΏΡ€Π΅Π΄Π΅Π»ΠΈΠ² ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΊΠ°ΠΊ Π²Π΅Π»ΠΈΡ‡ΠΈΠ½Ρƒ, ΠΌΡ‹ Ρ‚Π΅ΠΌ самым прСдвосхитили ΠΎΡ†Π΅Π½ΠΊΡƒ нСгэнтропии отраТСния, ΠΊΠ°ΠΊ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ воспроизвСдСния срСднСй Π΄Π»ΠΈΠ½Ρ‹ ΠΈΠ½Ρ‚Π΅Π³Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ ΠΊΠΎΠ΄Π° элСмСнтов ΠΎΠ΄Π½ΠΎΠ³ΠΎ ΠΊΠΎΠ½Π΅Ρ‡Π½ΠΎΠ³ΠΎ мноТСства Ρ‡Π΅Ρ€Π΅Π· ΠΏΠ΅Ρ€Π΅ΡΠ΅ΠΊΠ°ΡŽΡ‰Π΅Π΅ΡΡ с Π½ΠΈΠΌ Π΄Ρ€ΡƒΠ³ΠΎΠ΅ ΠΊΠΎΠ½Π΅Ρ‡Π½ΠΎΠ΅ мноТСство. НСпосрСдствСнно оцСнивая Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Π²Π΅Π»ΠΈΡ‡ΠΈΠ½Ρƒ, Π±ΡƒΠ΄Π΅ΠΌ ΠΈΡΡ…ΠΎΠ΄ΠΈΡ‚ΡŒ ΠΈΠ· Ρ‚ΠΎΠ³ΠΎ, Ρ‡Ρ‚ΠΎ мноТСства Π² ΡΠ²ΠΎΠ΅ΠΉ совокупности ΠΎΠ±Ρ€Π°Π·ΡƒΡŽΡ‚ ΠΏΡ€ΠΎΡΡ‚Π΅ΠΉΡˆΡƒΡŽ систСму ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½ΠΎΠΉ связи, Π² ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ ΠΎΡ‚Ρ€Π°ΠΆΠ°Π΅ΠΌΠΎΠ΅ (А) ΠΈ ΠΎΡ‚Ρ€Π°ΠΆΠ°ΡŽΡ‰Π΅Π΅ (Π’) мноТСства ΡΠ²Π»ΡΡŽΡ‚ΡΡ, соотвСтствСнно, источником ΠΈ ΠΏΡ€ΠΈΡ‘ΠΌΠ½ΠΈΠΊΠΎΠΌ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ, Π° ΡΠ²ΡΠ·ΡƒΡŽΡ‰Π΅Π΅ мноТСство выступаСт Π² ΠΊΠ°Ρ‡Π΅ΡΡ‚Π²Π΅ ΠΏΠ΅Ρ€Π΅Π΄Π°ΡŽΡ‰Π΅ΠΉ срСды ΠΈΠ»ΠΈ ΠΊΠ°Π½Π°Π»Π° связи. ΠŸΡ€ΠΎΡ†Π΅ΡΡ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ ΠΏΠΎ Ρ‚Π°ΠΊΠΎΠΉ систСмС связи соотвСтствуСт процСссу отраТСния мноТСства, А Ρ‡Π΅Ρ€Π΅Π· нСпосрСдствСнно взаимосвязанноС с Π½ΠΈΠΌ мноТСство Π’. Рассмотрим этот процСсс, учитывая, Ρ‡Ρ‚ΠΎ Π²Π½Π΅ связи с ΡƒΠΏΡ€Π°Π²Π»Π΅Π½ΠΈΠ΅ΠΌ Π²Π·Π°ΠΈΠΌΠΎΠ΄Π΅ΠΉΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠ΅ ΠΎΠ±ΡŠΠ΅ΠΊΡ‚Ρ‹ ΡƒΡ‡Π°ΡΡ‚Π²ΡƒΡŽΡ‚ Π²ΠΎ Π²Π·Π°ΠΈΠΌΠ½ΠΎΠΌ ΠΎΡ‚Ρ€Π°ΠΆΠ΅Π½ΠΈΠΈ Π΄Ρ€ΡƒΠ³ Π΄Ρ€ΡƒΠ³Π° всСй ΡΠΎΠ²ΠΎΠΊΡƒΠΏΠ½ΠΎΡΡ‚ΡŒΡŽ своих элСмСнтов [9].

Π˜Π½Ρ‚Π΅Π³Ρ€Π°Ρ‚ΠΈΠ²Π½Ρ‹ΠΉ ΠΊΠΎΠ΄ любого элСмСнта прСдставляСт собой ΠΎΠΏΡ€Π΅Π΄Π΅Π»Ρ‘Π½Π½ΠΎΠ΅ сообщСниС ΠΎ ΠΊΠΎΠ½Π΅Ρ‡Π½ΠΎΠΌ мноТСствС А, ΠΊΠ°ΠΊ ΠΎ Ρ†Π΅Π»ΠΎΡΡ‚Π½ΠΎΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠ²Π°Π½ΠΈΠΈ, Π° ΠΎΠ±Ρ‰Π΅Π΅ число Ρ‚Π°ΠΊΠΈΡ… сообщСний Ρ€Π°Π²Π½ΠΎ. БоотвСтствСнно, ΠΎΠ±ΡŠΡ‘ΠΌ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ, направляСмый ΠΎΡ‚Ρ€Π°ΠΆΠ°Π΅ΠΌΡ‹ΠΌ мноТСством, А Π² ΡΠ²ΡΠ·ΡƒΡŽΡ‰Π΅Π΅ мноТСство K Ρ€Π°Π²Π΅Π½:

ΠŸΡ€ΠΎΠΏΡƒΡΠΊΠ½Π°Ρ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ мноТСства K, Π² ΡΠΈΠ»Ρƒ Ρ‚ΠΎΠ³ΠΎ, Ρ‡Ρ‚ΠΎ, Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΡ€Π΅Π²Ρ‹ΡˆΠ°Ρ‚ΡŒ ΠΈ ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½Π° ΠΎΠ±ΡŠΡ‘ΠΌΠΎΠΌ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ ВслСдствиС этого информация ΠΏΡ€ΠΈ поступлСнии Π² ΠΌΠ½ΠΎΠΆΠ΅ΡΡ‚Π²ΠΎ K ΡƒΠΌΠ΅Π½ΡŒΡˆΠ°Π΅Ρ‚ся Π΄ΠΎ Π²Π΅Π»ΠΈΡ‡ΠΈΠ½Ρ‹ Π’ ΠΎΡ‚Ρ€Π°ΠΆΠ°ΡŽΡ‰Π΅Π΅ мноТСство Π’ ΠΈΠ· ΡΠ²ΡΠ·ΡƒΡŽΡ‰Π΅Π³ΠΎ мноТСства K ΠΏΠΎΡΡ‚ΡƒΠΏΠ°Π΅Ρ‚ сообщСний, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ нСсут ΠΎΠ± ΠΎΡ‚Ρ€Π°ΠΆΠ°Π΅ΠΌΠΎΠΌ мноТСствС, А ΠΎΠ±ΡŠΠ΅ΠΌ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ ΠΈ, соотвСтствСнно, информация воспроизводится мноТСством Π’ Π² Π²ΠΈΠ΄Π΅ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ.

(12).

Если Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Ρ€Π°ΡΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ ΠΎΠ±Ρ€Π°Ρ‚Π½Ρ‹ΠΉ процСсс отраТСния мноТСства Π’ Ρ‡Π΅Ρ€Π΅Π· мноТСство А, Ρ‚ΠΎ ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠΌ Ρ‚Π°ΠΊΠΎΠΉ ΠΆΠ΅ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ (12), Ρ‚ΠΎ Π΅ΡΡ‚ΡŒ .

Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, ΠΌΡ‹ ΠΏΡ€ΠΈΡˆΠ»ΠΈ ΠΊ Ρ‚ΠΎΠΌΡƒ, Ρ‡Ρ‚ΠΎ Ρ„ΠΎΡ€ΠΌΡƒΠ»Π° нСгэнтропии отраТСния ΠΈΠΌΠ΅Π΅Ρ‚ Π²ΠΈΠ΄:

(13).

Из Π²Ρ‹Ρ€Π°ΠΆΠ΅Π½ΠΈΡ (13) слСдуСт, Ρ‡Ρ‚ΠΎ являСтся Ρ‡Π°ΡΡ‚ΡŒΡŽ срСднСй Π΄Π»ΠΈΠ½Ρ‹ ΠΈΠ½Ρ‚Π΅Π³Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ ΠΊΠΎΠ΄Π° элСмСнтов ΡΠ²ΡΠ·ΡƒΡŽΡ‰Π΅Π³ΠΎ мноТСства K. Π’Π°ΠΊ ΠΊΠ°ΠΊ, Ρ‚ΠΎ ΠΌΠΎΠΆΠ½ΠΎ Ρ‚Π°ΠΊΠΆΠ΅ ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ нСгэнтропия отраТСния Π² ΠΊΠΎΠ»ΠΈΡ‡Π΅ΡΡ‚Π²Π΅Π½Π½ΠΎΠΌ ΠΎΡ‚Π½ΠΎΡˆΠ΅Π½ΠΈΠΈ являСтся ΠΌΠ΅Ρ€ΠΎΠΉ воспроизвСдСния срСднСй Π΄Π»ΠΈΠ½Ρ‹ ΠΈΠ½Ρ‚Π΅Π³Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ ΠΊΠΎΠ΄Π° элСмСнтов ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ ΠΈΠ· ΠΏΠ΅Ρ€Π΅ΡΠ΅ΠΊΠ°ΡŽΡ‰ΠΈΡ…ся мноТСств, А ΠΈ Π’.

Π€ΠΎΡ€ΠΌΡƒΠ»Π° (13) относится ΠΊ Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ ΠΎΠ±Ρ‰Π΅ΠΌΡƒ ΡΠ»ΡƒΡ‡Π°ΡŽ нСпосрСдствСнной взаимосвязи ΠΊΠΎΠ½Π΅Ρ‡Π½Ρ‹Ρ… мноТСств, А ΠΈ Π’, ΠΊΠΎΠ³Π΄Π° (см. Ρ€ΠΈΡΡƒΠ½ΠΎΠΊ 2Π±). Π’ Π΄Ρ€ΡƒΠ³ΠΈΡ… ΠΆΠ΅, Π±ΠΎΠ»Π΅Π΅ частных случаях взаимосвязи (см. Ρ€ΠΈΡΡƒΠ½ΠΎΠΊ 2 Π’, Π³, Π΄) ΠΈ ΠΏΡ€ΠΈ Π΅Ρ‘ ΠΎΡ‚сутствии (см. Ρ€ΠΈΡΡƒΠ½ΠΎΠΊ 2Π°), Π²Ρ‹Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ нСгэнтропии отраТСния ΠΏΡ€ΠΈΠΎΠ±Ρ€Π΅Ρ‚Π°Π΅Ρ‚ Π²ΠΈΠ΄:

Особого рассмотрСния Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ противорСчивая Π² Π½Π΅Π³ΡΠ½Ρ‚Ρ€ΠΎΠΏΠΈΠΉΠ½ΠΎΠΌ ΠΎΡ‚Π½ΠΎΡˆΠ΅Π½ΠΈΠΈ ситуация, ΠΊΠΎΠ³Π΄Π° ΡΠ²ΡΠ·ΡƒΡŽΡ‰Π΅Π΅ мноТСство K ΡΠΎΡΡ‚ΠΎΠΈΡ‚ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΈΠ· ΠΎΠ΄Π½ΠΎΠ³ΠΎ элСмСнта, Ρ‚ΠΎ Π΅ΡΡ‚ΡŒ. Π—Π΄Π΅ΡΡŒ, с ΠΎΠ΄Π½ΠΎΠΉ стороны (Ρ„ΠΎΡ€ΠΌΠ°Π»ΡŒΠ½ΠΎΠΉ), Π² ΡΠΈΠ»Ρƒ логарифмичСского Ρ…Π°Ρ€Π°ΠΊΡ‚Π΅Ρ€Π° ΠΎΡ‚Ρ€Π°ΠΆΠ°Π΅ΠΌΠΎΠΉ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ, Ρ„ΠΎΡ€ΠΌΡƒΠ»Π° нСгэнтропии отраТСния ΠΏΠΎΠΊΠ°Π·Ρ‹Π²Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ. Π’ΠΎ Π΅ΡΡ‚ΡŒ случаи, ΠΊΠΎΠ³Π΄Π° ΠΈ, ΠΏΠΎ Ρ„ΠΎΡ€ΠΌΡƒΠ»Π΅ (13) Π½Π΅ ΠΎΡ‚Π»ΠΈΡ‡Π°ΡŽΡ‚ΡΡ Π΄Ρ€ΡƒΠ³ ΠΎΡ‚ Π΄Ρ€ΡƒΠ³Π°. Π‘ Π΄Ρ€ΡƒΠ³ΠΎΠΉ ΠΆΠ΅ стороны (Π½Π΅Ρ„ΠΎΡ€ΠΌΠ°Π»ΡŒΠ½ΠΎΠΉ), ΠΏΡ€ΠΈ Π² ΠΎΡ‚Π»ΠΈΡ‡ΠΈΠ΅ ΠΎΡ‚ ΡΠΈΡ‚ΡƒΠ°Ρ†ΠΈΠΈ, ΠΊΠΎΠ³Π΄Π°, ΠΌΠ΅ΠΆΠ΄Ρƒ мноТСствами, А ΠΈ Π’ ΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΠ΅Ρ‚ ΠΊΠ°Π½Π°Π» связи, ΠΏΠΎ ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΌΡƒ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΡ€ΠΎΠΉΡ‚ΠΈ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΎΠ±ΡŠΡ‘ΠΌ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ ΠΈ, соотвСтствСнно, нСгэнтропия отраТСния ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΡ€ΠΈΠ½ΡΡ‚ΡŒ ΠΎΡ‚Π»ΠΈΡ‡Π½ΠΎΠ΅ ΠΎΡ‚ Π½ΡƒΠ»Ρ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅. К Ρ‚Π°ΠΊΠΎΠΌΡƒ ΠΆΠ΅ Π²Ρ‹Π²ΠΎΠ΄Ρƒ нас подводят ΠΈ ΠΏΠΎΠ·Π½Π°Π²Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ ситуации, Π² ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… сам Ρ„Π°ΠΊΡ‚ наличия ΠΈΠ»ΠΈ отсутствия нСпосрСдствСнной взаимосвязи ΠΌΠ΅ΠΆΠ΄Ρƒ ΠΊΠΎΠ½Π΅Ρ‡Π½Ρ‹ΠΌΠΈ мноТСствами ΠΈΠΌΠ΅Π΅Ρ‚ ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠΈΠ°Π»ΡŒΠ½ΠΎΠ΅ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ НапримСр, ΠΏΡ€ΠΈ мСдосмотрС Π³Ρ€ΡƒΠΏΠΏΡ‹ людСй, находящихся Π² ΠΎΡ‚Π½ΠΎΡˆΠ΅Π½ΠΈΡΡ… ΠΈ ΡΠ²ΡΠ·ΡΡ… ΠΌΠ΅ΠΆΠ΄Ρƒ собой, сам Ρ„Π°ΠΊΡ‚ выявлСния Π΅Π΄ΠΈΠ½ΠΈΡ‡Π½ΠΎΠ³ΠΎ случая ΠΈΠ½Ρ„Π΅ΠΊΡ†ΠΈΠΎΠ½Π½ΠΎΠ³ΠΎ заболСвания Π±ΡƒΠ΄Π΅Ρ‚ ΠΎΡ‚Ρ€Π°ΠΆΠ°Ρ‚ΡŒ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Ρ‘Π½Π½ΡƒΡŽ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΎΠ± ΠΎΠ±Ρ‰Π΅ΠΌ Π½Π΅Π±Π»Π°Π³ΠΎΠΏΠΎΠ»ΡƒΡ‡ΠΈΠΈ обслСдуСмой Π³Ρ€ΡƒΠΏΠΏΡ‹, которая Π΄ΠΎΠ»ΠΆΠ½Π° ΡƒΡ‡ΠΈΡ‚Ρ‹Π²Π°Ρ‚ΡŒΡΡ ΠΏΡ€ΠΈ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠ΅ Π΄Π°Π½Π½Ρ‹Ρ… мСдосмотра. ΠΈ, ΠΊΠ°ΠΊ слСдствиС, ΠΎΡ‚Ρ‡Π΅Ρ‚Π»ΠΈΠ²ΠΎ понимаСтся, Ρ‡Ρ‚ΠΎ случаи, ΠΊΠΎΠ³Π΄Π° ΠΈ, ΠΏΠΎ Π²Π΅Π»ΠΈΡ‡ΠΈΠ½Π΅ нСгэнтропии отраТСния Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΎΡ‚Π»ΠΈΡ‡Π°Ρ‚ΡŒΡΡ Π΄Ρ€ΡƒΠ³ ΠΎΡ‚ Π΄Ρ€ΡƒΠ³Π°.

Π£ΠΊΠ°Π·Π°Π½Π½ΠΎΠ΅ нСгэнтропийноС ΠΏΡ€ΠΎΡ‚ΠΈΠ²ΠΎΡ€Π΅Ρ‡ΠΈΠ΅ снимаСтся (ΠΊΠΎΠ³Π΄Π° этого Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ ΠΏΠΎΠ·Π½Π°Π²Π°Ρ‚Π΅Π»ΡŒΠ½Π°Ρ ситуация), Ссли ΠΏΡ€ΠΈΠ½ΡΡ‚ΡŒ, Ρ‡Ρ‚ΠΎ СдинствСнный элСмСнт ΡΠ²ΡΠ·ΡƒΡŽΡ‰Π΅Π³ΠΎ мноТСства K ΠΈΠΌΠ΅Π΅Ρ‚ ΠΊΠΎΠ΄ Π΄Π»ΠΈΠ½ΠΎΠΉ Π² ΠΎΠ΄ΠΈΠ½ символ. Π’ ΡΡ‚ΠΎΠΌ случаС, снова рассматривая ΡΠΎΠ²ΠΎΠΊΡƒΠΏΠ½ΠΎΡΡ‚ΡŒ мноТСств ΠΊΠ°ΠΊ систСму ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½ΠΎΠΉ связи, ΠΌΠΎΠΆΠ½ΠΎ ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ ΠΎΡ‚ ΠΈΡΡ‚ΠΎΡ‡Π½ΠΈΠΊΠ° ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ (мноТСства А) Π² ΠΊΠ°Π½Π°Π» связи (мноТСство K) поступаСт объСм ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ Π² Π²ΠΈΠ΄Π΅ сообщСний Π΄Π»ΠΈΠ½ΠΎΠΉ. ΠŸΡ€ΠΈΡ‘ΠΌΠ½ΠΈΠΊ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ (мноТСство Π’) ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΡ‚ΡŒ ΠΏΡ€ΠΈ этом ΠΈΠ· ΠΊΠ°Π½Π°Π»Π° связи Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΎΠ΄Π½ΠΎ ΠΈΠ· ΡƒΠΊΠ°Π·Π°Π½Π½Ρ‹Ρ… сообщСний, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ позволяСт мноТСству Π’ Π²ΠΎΡΠΏΡ€ΠΎΠΈΠ·Π²Π΅ΡΡ‚ΠΈ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΎ ΠΌΠ½ΠΎΠΆΠ΅ΡΡ‚Π²Π΅, А Π² Π²ΠΈΠ΄Π΅ Π²Π΅Π»ΠΈΡ‡ΠΈΠ½Ρ‹, ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰Π΅ΠΉ нСгэнтропии отраТСния. Π’ΠΎ Π΅ΡΡ‚ΡŒ ΠΏΡ€ΠΈ Ρ„ΠΎΡ€ΠΌΡƒΠ»Π° нСгэнтропиии отраТСния для практичСских расчСтов принимаСтся Π² ΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅ΠΌ Π²ΠΈΠ΄Π΅:

(14).

Π’ΠΎΡ‡Π½ΠΎ Ρ‚Π°ΠΊΠΎΠΉ ΠΆΠ΅ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ (14) ΠΏΠΎ ΡΠ½ΡΡ‚ΠΈΡŽ нСгэнтропийного противорСчия ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ ΠΈ Ρ‡ΠΈΡΡ‚ΠΎ Ρ„ΠΎΡ€ΠΌΠ°Π»ΡŒΠ½Ρ‹ΠΌ ΠΏΡƒΡ‚Ρ‘ΠΌ, увСличивая Π½Π° Π΅Π΄ΠΈΠ½ΠΈΡ†Ρƒ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ Π°Ρ€Π³ΡƒΠΌΠ΅Π½Ρ‚Π° логарифмичСской Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ Π² Ρ„ΠΎΡ€ΠΌΡƒΠ»Π΅ (13).

ΠŸΠΎΠΊΠ°Π·Π°Ρ‚ΡŒ вСсь тСкст
Π—Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Ρ„ΠΎΡ€ΠΌΡƒ Ρ‚Π΅ΠΊΡƒΡ‰Π΅ΠΉ Ρ€Π°Π±ΠΎΡ‚ΠΎΠΉ