تئوری اطلاعات

مفاهیم اولیه نظریه معرفی شده در دهه چهل قرن بیستم، شانون. تئوری اطلاعات - علم به انتقال، ذخیره و بازیابی داده ها در سیستم های طبیعی، فنی و اجتماعی. در بسیاری از برنامه های کاربردی از رشته های علمی مانند علوم کامپیوتر، زبان شناسی، رمزنگاری، نظریه کنترل، پردازش تصویر، ژنتیک، روانشناسی، اقتصاد، سازمان از روشهای تولید این علم استفاده می شود.

در شرایط مدرن با نظریه اطلاعات بسیار محکم به یک تئوری برنامه نویسی مرتبط است، مورد بحث از شایع ترین مشکلات انطباق بین سیگنال و یک پیام، و تئوری پردازش سیگنال، که در آن تدریج مورد مطالعه و سیگنال های بازیابی و طیفی و تجزیه و تحلیل همبستگی آن.

تئوری اطلاعات مفهوم اساسی "اطلاعات" در بیشتر قسمت ها به لحاظ کمی، بدون در نظر گرفتن ارزش خود را، و گاهی بی معنی می داند. در این روش، یک صفحه از متن در حدود حاوی همان مقدار از داده ها مشخص شده توسط تعدادی از نشانه ها و نمادها، می کند و در این واقعیت است که، به بیان دقیق، چاپ شده است وجود دارد بستگی ندارد، حتی اگر آن را کاملا مجموعه ای بی معنی و پر هرج و مرج برخی از نمادها.

این رویکرد قابل توجیه است، اما فقط برای شبیه سازی سیستم های ارتباطی، از آنجایی که آنها به دقت انتقال اطلاعات در کانال های ارتباطی، که ممکن است هر مجموعه ای از شخصیت ها و نمادها. سپس، هنگامی که لازم است را به حساب ارزش و معنای از داده ها، رویکرد کمی غیر قابل قبول است. این شرایط در زمینه کاربرد احتمالی این نظریه اعمال محدودیت قابل توجهی است.

اصول تئوری اطلاعات شامل در نظر گرفتن مسائل مختلف، از جمله مستقیما به انتقال و دریافت داده ها. این طرح ارتباطی اصلی است، که در آموزش در نظر گرفته به شرح زیر است. تئوری اطلاعات او معتقد است که این منبع پیام است، که یک کلمه یا مجموعه ای از کلمات نوشته شده حروف خاص از حروف الفبا. منبع از پیام می تواند متن را به هر طبیعی یا زبان مصنوعی، زبان انسان، پایگاه داده و برخی از مدل های ریاضی، ایجاد یک توالی از حروف. رسانه برای انتقال سیگنال - فرستنده پیام را به یک سیگنال مربوط به ماهیت فیزیکی از کانال های ارتباطی تبدیل می کند. در عبور از چنین آن موضوع دخالت، که معرفی تحریف در ارزش پارامترهای اطلاعات است. گیرنده بازیابی پیام اصلی از سیگنال تحریف شده است. ارسال در یک فرم کاهش می آید به مقصد - یک فرد خاص و یا یک دستگاه فنی.

منبع پیام آماری در طبیعت است، به عنوان مثال ظاهر هر پیام توسط احتمال خاص تعیین می شود. نظریه اطلاعات شانون معتقد است که اگر احتمال پیام مساوی یک است، این است که، ظاهر خود را به طور قابل توجهی و عدم قطعیت باور نمی کنم که که هر گونه اطلاعات را حمل می کند.

یکی از مشکلات مهم تئوری اطلاعات هماهنگی کانال ارتباطات و اطلاعات خواص منبع پیام داند. پهنای باند توسط واحد 1 بیت در ثانیه تعیین می شود.

یکی از مشکلات سیستم های ارتباطی هستند دخالت به مسیر سیگنال مورد نظر. شانون، متاسفانه، به ما روش های خاص برای برخورد با کسانی که به من بدهید. ساده ترین روش از بین بردن است که تکرار بسیاری از پیام های زمان ها بسیار موثر است چرا که هزینه های زمان بیشتری را برای طول می کشد انتقال اطلاعات. بسیار بهره وری بیشتر اجازه می دهد تا استفاده از کدهای که به شما اجازه تشخیص و تصحیح خطاهای انتقال داده ها.