نظرية التشفير هي الدراسة العلمية للطرق التي يمكن استخدامها لتحويل البيانات السرية إلى شكل غير قابل للقراءة من قبل المتطفلين. وتُطبق هذه النظرية على نطاق واسع في الرياضيات البحتة وعلوم الحاسوب.
في الرياضيات البحتة، تنظر نظرية التشفير في الطرق الرياضية التي يمكن استخدامها لإنتاج تشفيرات فعالة وأمنة. ومن أمثلة تطبيقاتها في الرياضيات البحتة: نظرية أعداد، الجبر المجرد، نظرية المجموعات ونظرية الاحتمالات.
وفي علوم الحاسوب، تستخدم نظرية التشفير في تصميم وتحليل الخوارزميات المستخدمة في تشفير البيانات وحمايتها من الهجمات. وتنقسم هذه التطبيقات إلى مجموعتين: التشفير السري (symmetric encryption) والتشفير العام ثنائي المفتاح (public-key encryption). ويستخدم التشفير السري في تشفير البيانات السرية والتي يتعيّن على مستقبلها فكّ التشفير، في حين يُستخدم التشفير العام ثنائي المفتاح في تشفير البيانات بين مرسل ومستقبلة مجهولين.