สิ่งที่ผมรู้ หากคุณอ่าน คุณจะรู้ตามผมไปด้วย

ทฤษฏีสารสนเทศ (Information Theory)

ทฤษฏีที่ว่าด้วย การเข้ารหัสข้อมูล และการเข้ารหัสช่องสัญญาณ โดยมีภาพรวมดังนี้

฿าพรวมของ Information นั้นแบ่งได้เป็น 2 ส่วนหลัก ๆ คือ

1. Source Coding

หรือสามารถเรียกอีกอย่างหนึ่งได้ว่า Data Compression หมายถึงกระบวนการสร้างข้อมูลในรูปแบบ Digital ที่ไม่ซ้ำกัน เช่นหากเราต้องการส่ง a b c ไปให้ถึงผู้รับ จะทำอย่างไรให้ข้อมูลที่ส่งไปถึงผู้รับ โดยที่ผู้รับเข้าใจตรงกัน ว่าสิ่งที่ผู้ส่งมานั้น คือ a b หรือ c ซึ่งในความเป็นจริงๆ ข้อมูลที่จะส่งมีตั้งแต่ a-z A-Z ตัวเลข ตัวอักษรพิเศษ ^ & % $ # ส่งอย่างไร ถึงจะใช้จำนวน bit ที่สั้น และปลายทางสามารถเข้าใจได้ทันทีว่า Bit ที่ได้รับนั้น คือข้อมูลใด โดยมีจุดประสงค์ เพื่อจัดเก็บที่ดี (ขนาดเล็กลง) และเพื่อส่งข้อมูลถึงกัน (ข้อมูลจะมีขนาดเล็ก ส่งได้เร็ว)

• แบ่งตามประเภทการสูญเสียข้อมูล แบ่งได้ดังนี้
  • Losseless Compression
    • หมายถึงการบีบอัดข้อมูล โดยที่ไม่ยอมสูญเสียข้อมูลเลย
  • Lossy Compression
    • หมายถึง การบีบอัดข้อมูล โดยที่ยอมสูญเสียข้อมูลบ้าง แต่ฝั่งผู้รับสามารถรับรู้ และตีความหมายได้

• แบ่งตามลักษณะข้อมูล แบ่งได้ดังนี้
  • Multimedia Coding เน้นถึง Algorithm สำหรับส่งส่งสัญญาณ Audio, Images และ Video เช่น
    • Text
    • Speech
    • Music
    • Audio
    • Graphic
    • Image Video
    • more …
  • ตัวอย่างงานวิจัยทางด้านนี้ จนเป็นที่ยอมรับในอุตสาหกรรม และเราได้ใช้โดยไม่รู้ตัวเช่น
    • Standard: H:series, MPEG, VRML .. เพลงที่เราฟัง, MP3, DVD เป็นต้น
    • Networking: streaming, QoS, VBR
    • MMX Technology (คุ้น ๆ ไหม สำหรับคนใช้ Pantium II )
    • Databases : Retrive and Indexing
    • more …
  • Data Compression เน้นถึง Algorithm สำหรับส่งข้อมูลถึงปลายทางโดยไม่แยกแยะข้อมูล โดยที่ข้อมูลชุดใหม่ที่สร้างขึ้น มีขนาดกระทัดรัด

2. Channel Coding

การเข้ารหัสผ่านช่องสัญญาณ (Channel Coding) โดยมีจุดประสงค์ เพื่อให้ผู้รับ รับสัญญาณ ได้ครบถ้วน หรือหากเกิดมีสัญญาณรบกวนขึ้น ผู้รับสามารถรับรู้ได้ถึงความผิดพลาด โดยที่ไม่ได้เน้นการบีบอัดข้อมูลมากนัก อาจเพิ่ม Bit เข้าไปตรวจสอบ หรือเพิ่มจำนวน Bit เข้าไป เพื่อให้ฝั่งรับสามารถตรวจสอบ และสามารถแก้ไขข้อผิดพลาดนั้น ๆ ได้ โดยวิธีนี้เรียกว่า Forward Error Correction (FEC) ตัวอย่างเช่น

• Block Code [Hamming code(7,4)]
• Convolution Coding
• Turbo Coding
• more …

Channel Coding ที่เพียงแค่ให้ผู้รับปลายทางทราบว่ามีข้อมูลผิดพลาดเข้ามาเพียงอย่างเดียว และผู้รับร้องขอให้ผู้ส่ง ส่งใหม่ เรียกว่า Automatic Repeat-reQuest (ARQ) ตัวอย่างได้แก่

• Hash Function
• CRC
• more …

ขอบพระคุณที่สนใจอ่าน

อ่านเพิ่มเติม : http://en.wikipedia.org/wiki/Information_Theory