Cantitatea de informații - în teoria informațiilor, aceasta este cantitatea de informații dintr-un obiect aleator în raport cu altul. Fie u variabilele aleatoare date pe seturile corespunzătoare u. Apoi cantitatea de informații este relativ:
,
, - entropia condiționată, în teoria transferului de informații, caracterizează zgomotul în canal.
Proprietățile entropiei
Pentru entropie, sunt valabile următoarele proprietăți:
,
unde numărul de elemente ale setului.
În acest caz, dacă unul din elementele setului este realizat cu probabilitatea 1 și ceilalți sunt 0, în virtutea faptului că u.
Valoarea maximă a entropiei este atinsă atunci când toate, adică toate rezultatele sunt la fel de probabile.
Pentru entropia condiționată, următoarele proprietăți dețin:
,
În acest caz, dacă cartografierea este unică, adică .
Valoarea maximă a entropiei condiționale este atinsă atunci când și variabilele aleatorii independente.
Proprietăți informații despre cantitate
Pentru cantitatea de informații, sunt valide următoarele proprietăți:
ca un corolar al teoremei lui Bayes. dacă u sunt variabile aleatoare independente.
Ultima proprietate arată că cantitatea de informații coincide cu entropia dacă componenta de pierdere a informațiilor (zgomot) este zero.
Acest articol nu are referințe la sursele de informații.
Uita-te la ceea ce este "cantitatea de informații" în alte dicționare:
Cantitatea de informații - în teoria informațiilor, măsurarea informațiilor raportate de apariția unui eveniment cu o anumită probabilitate; sau o măsură a informațiilor conținute în mesaj; sau o măsură care caracterizează scăderea incertitudinii conținute într-o variabilă aleatoare ... ... Dicționar financiar
cantitatea de informații - o măsură de informații raportată de apariția unui eveniment cu o anumită probabilitate; măsurarea informațiilor conținute în mesaj; o măsură care caracterizează scăderea incertitudinii conținute într-o variabilă aleatorie față de un alt ... ... Director al traducătorului tehnic
CANTITATE DE INFORMAȚII - vezi entropia. Dicționarul geologic: în 2 volume. M. Nedra. Editat de KN Paffengolts și colab., 1978 ... Enciclopedia geologică
cantitatea de informații - informacije kiekis statusas T sritis fizika atitikmenys: angl. conținutul de informații vok. Informationsinhalt, m; Informationsmenge, f rus. cantitate de informații, n pranc. cuantificarea informațiilor, ... Fizikos terminų žodynas
cantitatea de informații - gradul de incertitudine eliminat (sau distrus) rezultat din transmiterea mesajului ... Dicționar de traducere explicativă
cantitatea de informații - reducerea incertitudinii situației (variabilă aleatoare) x, Măsura apare pentru că rezultatele sunt cunoscute alte situații (variabilă aleatoare) y ... terminologie Politehnică dicționar
de informații referitoare la Fischer - Noțiune cantitate de informații privind Kullback în caz particular a două ipoteze apropiate asupra valorii parametrului, adică, într-un caz în care o anumită cantitate de informații privind Kullback P1 (x) = F (x, θ) și P2 (x .. ) = F (x, θ + δθ), unde θ ... ... Manualul tehnic translator
Articole similare
Trimiteți-le prietenilor: