Teoria e informacionit

Konceptet themelore të teorisë futur në të dyzetat e shekullit të njëzetë, Shannon. teoria e informacionit - shkenca e procesit të transferimit, ruajtjen dhe retrieving të dhënave në sistemet natyrore, teknike dhe sociale. Në shumë aplikacione të fushave shkencore të tilla si shkenca kompjuterike, gjuhësi, cryptography, teoria e kontrollit, përpunimin e imazhit, gjenetikë, psikologjisë, ekonomisë, organizimin e metodat e prodhimit janë përdorur këtë shkencë.

Në kushte moderne me teorisë së informacionit të lidhura shumë ngushtë me një teori kodim, diskuton problemet më të zakonshme të konformitetit në mes të një sinjal dhe një mesazh, dhe teoria e përpunimit të sinjalit, ku quantization studiuar dhe sinjalet e rimëkëmbjes dhe fantazme dhe analiza e korrelacionit të tyre.

Teoria e informacionit konsideron konceptin bazë të "informacionit" për pjesën më të madhe sasiore, pa marrë parasysh vlerën e saj, dhe nganjëherë të pakuptimtë. Në këtë qasje, një faqe të tekstit do të përmbajë përafërsisht të njëjtën sasi të të dhënave të përcaktuara nga një numër i shenjave dhe simboleve, dhe nuk varet nga fakti se, në mënyrë rigoroze duke folur, nuk është i shtypur, edhe nëse ajo është absolutisht e vendosur pakuptimtë dhe kaotike e disa simboleve.

Kjo qasje është e justifikuar, por vetëm për simulimin e sistemeve të komunikimit, pasi që ata kanë për të transmetuar me saktësi informacion mbi kanalet e komunikimit, e cila mund të jetë çdo grup të karaktereve dhe simboleve. Pastaj, kur është e nevojshme për të marrë parasysh vlerën dhe kuptimin e të dhënave, qasje sasiore është e papranueshme. Këto rrethana të vendosë kufizime të konsiderueshme në fushën e zbatimit të mundshëm të kësaj teorie.

Bazat e teorisë së informacionit përfshin shqyrtimin e çështjeve të ndryshme, duke përfshirë drejtpërdrejt lidhur me transmetimin dhe marrjen e të dhënave. Skema kryesore e komunikimit, e cila është konsideruar në mësimdhënie është si më poshtë. Teoria e informacionit dhe kodim Ai konsideron se këto janë burimi i mesazheve, e cila është një fjalë ose grup i fjalëve të shkruara disa shkronja të alfabetit. Burimi i mesazhit mund të jetë teksti për çdo fizik apo gjuhë artificiale, gjuhës njerëzore, bazën e të dhënave dhe disa modele matematikore, duke krijuar një rend të shkronjave. Transmetues konverton mesazhin në një sinjal që korrespondon me natyrën fizike të kanalit të komunikimit - medium për të transmetimit të sinjalit. Gjatë kalimit të tillë ajo i nënshtrohet ndërhyrjes, e cila futur shtrembërime në vlerën e parametrave të informacionit. Marrësi rimëkëmbet mesazhin origjinal nga sinjali shtrembëruar. Mesazh në një formë të reduktuar vjen në destinacion - një person të caktuar apo një pajisje teknike.

Burimi Mesazhi është statistikore në natyrë, dmth pamjen e çdo mesazhi është përcaktuar me një probabilitet të caktuar. Teoria e informacionit Shannon beson se nëse probabiliteti i mesazhit është e barabartë me unitet, që është, paraqitja e tij në mënyrë të konsiderueshme dhe pasiguritë nuk besoj se ajo nuk ka kryer ndonjë informacion.

Një nga problemet e rëndësishme të teorisë së informacionit konsideron koordinimin e kanalit të komunikimit dhe informacionit pronat e burimit mesazhit. Bandwidth përcaktohet nga njësia e 1 bit për të dytë.

Një problem me sistemet e komunikimit janë ndërhyrje në rrugën e dëshiruar të sinjalit. Shannon, për fat të keq, nuk na jep metodat specifike për trajtimin me ata. Metoda më e lehtë Heqja që është përsëritur shumë herë mesazhe nuk janë shumë efektive për shkak se ajo merr më shumë shpenzimet kohë për transmetimin e informacionit. Më shumë efikasitet më i madh lejon përdorimin e kodeve që ju lejon për të zbuluar dhe korrigjuar gabimet e transmetimit të të dhënave.