สำหรับเหตุการณ์สุ่มแบบเต็มหน่วย x ซึ่งสมมุติให้มีสถานะ 1..n, คล็อด อี แชนนอน นิยามเอนโทรปีในเทอมของ x ว่า
นั่นคือ เอนโทรปีของเหตุการณ์ x คือ ผลรวม (บนทุกๆผลลัพธ์ i ที่เป็นไปได้) ของผลคูณของความน่าจะเป็นที่จะเกิดผลลัพธ์ i กับ ล็อกของความน่าจะเป็นนั้น นอกจากนี้ เราสามารถใช้สมการนี้กับกระจายตัวเชิงความน่าจะเป็นทั่วๆไปนอกเหนือจากเหตุการณ์แบบเต็มหน่วยได้อีกด้วย
เอนโทรป, ของข, อม, บทความน, ไม, การอ, างอ, งจากแหล, งท, มาใดกร, ณาช, วยปร, บปร, งบทความน, โดยเพ, มการอ, างอ, งแหล, งท, มาท, าเช, อถ, เน, อความท, ไม, แหล, งท, มาอาจถ, กค, ดค, านหร, อลบออก, เร, ยนร, าจะนำสารแม, แบบน, ออกได, อย, างไรและเม, อไร, ในทฤษฎ, อม, เป, นล. bthkhwamniimmikarxangxingcakaehlngthimaidkrunachwyprbprungbthkhwamni odyephimkarxangxingaehlngthimathinaechuxthux enuxkhwamthiimmiaehlngthimaxacthukkhdkhanhruxlbxxk eriynruwacanasaraemaebbnixxkidxyangiraelaemuxir inthvsdikhxmul exnothrpikhxngkhxmul khux epnlksnathibngchiradbkarsumkhxngsyyanhruxehtukarnsum wamimaknxyephiyngid hruxeraxacmxngxikmumhnungwaepntwbngbxkwasyyanxnhnungbrrcukhxmulxyuethairexnothrpikhxngkarthdlxngaebrnulisungepnfngkchnkhxngoxkassaerc exnothrpiepnaenwkhidkhxngethxromidnamikhs klsastrthangsthiti aela thvsdikhxmul aenwkhidkhxngexnothrpikberuxngkhxngkhxmulmikhwamekiywphnknxyangmak xyangirktamkwathiklsastrthangsthitiaelathvsdikhxmul caphthnamacnkhwamsmphnthnipraktkhun kichewlananthiediyw bthkhwamniepnbthkhwamekiywkbexnothrpikhxngkhxmul kdeknthkhxngexnothrpithiekiywkhxngkbkhxmulechingthvsdi twxyangechn phicarnakhxkhwaminphasaithy sungprakxbdwytwxksraelaekhruxnghmaytang sungsyyankhxngerainthini kkhuxladbkhxngtwxksraelaekhruxnghmaynnexng sngektwatwxksrbangtwmioxkaspraktkhunmanxymak echn h aetbangtwklbpraktbxymak echn x dngnnkhxkhwamphasaithynnkimideriykwasumsathiediyw thasumcring khxkhwamnacaxxkmaepnkhamw xanimidickhwam xyangirktam thaeraidkhachudhnungma erakimxackhadedaidwakhatxipepnkhawaxair aesdngwamnkmi khwamsum xyubang imidethiyngaethsathiediyw exnothrpikkhuxkarwdradbkhwamsumninnexng odykaenidmacakphlngankhxng khlawd xi aechnnxn inpiph s 2491 kh s 1948 chux A Mathematical Theory of Communication 1 aechnnxnsrangbthniyamkhxngexnothrpikhuncakkhxsmmtithanwa khanicatxngmisdswn thitxenuxng nnkhux hakepliynkhakhxngkhwamnacaepnxnhnungephiyngelknxy khaexnothrpikkhwrepliynephiyngelknxyechnkn hakphllphth echn twxksraelaekhruxnghmayintwxyangkhangtn thukxnmioxkasekidetha knaelw karephimcanwntwxksr aelaekhruxnghmay catxngthaihkhaexnothrpiephimkhundwyesmx eratxngsamarthichwithieluxkphllphth twxksr odythaepnsxngkhntxn aelainkrnini khaexnothrpikhxngphllphthsudthaytxngethakbexnothrpikhxngthngsxngkhntxnbwkkn odymikarthwngnahnk niyamthangkar aekikhsahrbehtukarnsumaebbetmhnwy x sungsmmutiihmisthana 1 n khlxd xi aechnnxn niyamexnothrpiinethxmkhxng x wa H x i 1 n p i log 2 1 p i i 1 n p i log 2 p i displaystyle H x sum i 1 n p i log 2 left frac 1 p i right sum i 1 n p i log 2 p i dd nnkhux exnothrpikhxngehtukarn x khux phlrwm bnthukphllphth i thiepnipid khxngphlkhunkhxngkhwamnacaepnthicaekidphllphth i kb lxkkhxngkhwamnacaepnnn nxkcakni erasamarthichsmkarnikbkracaytwechingkhwamnacaepnthwipnxkehnuxcakehtukarnaebbetmhnwyidxikdwyaechnnxnaesdngwa niyamkhxngexnothrpithukrupaebbthitrngtamenguxnikhkhxngekhacatxngxyuinrup K i 1 n p i log p i displaystyle K sum i 1 n p i log p i dd emux K epnkhakhngtwid aelacaehnidwamnepnephiyngkhathiepliyniptamhnwywdethannexng aechnnxnihniyamkarwdexnothrpi H p1 log2 p1 pn log2 pn wa emuxnaipwdthiaehlngkhxmul casamarthbngbxkkhnadthielkthisudethathiepnipid khxngchxngsyyanthiichinkarsngkhxmulthansxngidxyangthuktxng sutrnisamarthsrangkhunmaidcakkarkhanwnkhakhadhwng expectation khxng primankhxngkhxmul thixyuinaetlahlkkhxng aehlngkhxmul khaexnothrpikhxngaechnnxnniidklaymaepntwwdkhwamimaennxnkhxngtwaeprsum aeladngnncungepntwbxkekiywkbkhxmulthibrrcuxyuinkhxkhwam emuxepriybethiybkbswnkhxngkhxkhwamthisamarthkhadkarnidodyokhrngsrangkhxngmnexng twxyangechn karichkhafumefuxyinphasasuxsar hruxkhwamthikhxngkarekidtwxksrhruxkhaaetlakhuhruxaetlachud duhwngosmarkhxfephimetimthimakhxngsmkarexnothrpi aekikhlxngnukthungtwxyangkhxngkarsngkhxmulcakaehlnghnungipxikaehlnghnung odythikhxkhwamthiepnipidmithnghmd s aebb sungkkhux x 1 x 2 x s displaystyle x 1 x 2 ldots x s khxmulaetlaaebbmikhwamthiinkarekidepn k 1 k 2 k s displaystyle k 1 k 2 ldots k s tamladb odythicanwnkarekidkhxngkhxmulthnghmdepn k k 1 k 2 k s displaystyle k k 1 k 2 ldots k s hakeramikhxmulephiyngethani odyhlkkarnbebuxngtn khwamepnipidkhxngkhxkhwamthiekidkhunthnghmdkhux k k 1 k 2 k s k k 1 k 2 k s displaystyle k choose k 1 k 2 ldots k s frac k k 1 k 2 ldots k s dd inkarthifaysngkhxmulsngkhxkhwamipihfayrb faysngsamartheluxkichkarekharhsaebbidkid aetsingsakhythisudxyanghnungthitxngkhanungkhux fayrbtxngsamarthsrangkhxkhwamthiidrbmaihklbipxyuinrupaebbedimid nnkkhux eracaimsnickarekharhsaebbaeplkprahladthnghlaythifayrbnakhxmulmaichimid yktwxyangechn sngkhxmulthukxyangipinrupaebbkhxng 111 fayrbimsamarthnakhxmulthiidrbmaipichidelywithisngthifaysngcasamarththaidaebbhnungkhux sngkhxmuldngtxipniipihfayrb sngkhakhxng k 1 k 2 k s displaystyle k 1 k 2 ldots k s ichprimankhxmulthnghmd s log k displaystyle s log k bit sngladbkhxngkhxkhwamthitxngkarin total ordering thiniyambnestkhwamepnipidkhxngkhxkhwamthnghmd ordering nncaepnthicatxngepn computable ordering hruxphudxikxyanghnungkkhux fayrbsamarthkhanwnhakhxkhwamidemuxruladbkhxngkhxkhwaminestnn ichprimankhxmulethakbkhalxkkarithumkhxngkhnadkhxngest sngektxyanghnungwakarsngkhxmulthiphicarnakninthini imsnicprasiththiphaphkhxngkarthxdkhxmulklbipepnrupaebbedim nnkkhux phusngnnimsnicwafayrbcaichewlananephiyngidinkarkhanwnhakhxkhwamthitxngkarsngcaksingthisngip singthifaysngsnicmiephiyngwa thafayrbmichiwitepnxnnt skwnkhngthxdrhsklbmaid primankhxmulthitxngkarichthnghmdkkhux log k k 1 k 2 k s H X log k k 1 k 2 k s s log k displaystyle log frac k k 1 k 2 ldots k s leq H X leq log frac k k 1 k 2 ldots k s s log k dd thaeraichsutrkhxng Stirling inkarpramankhaaefkthxeriyl aelahalimitkhxng H X odythikha k ekhaiklxnnt eracaidphllphthkhux H X K i 1 n p i log p i displaystyle H X K sum i 1 n p i log p i dd odythi p i k i k displaystyle p i k i k epnkhwamthikhxngkarekidkhxmulchnidthi i bthkhwamekiywkbkhxmphiwetxr xupkrntang hruxekhruxkhayniyngepnokhrng khunsamarthchwywikiphiediyidodyephimkhxmul duephimthi sthaniyxy ethkhonolyisarsnethsekhathungcak https th wikipedia org w index php title exnothrpikhxngkhxmul amp oldid 8083387, wikipedia, วิกิ หนังสือ, หนังสือ, ห้องสมุด,