نظریه آشوب، به شاخهای از ریاضیات و فیزیک گفته میشود که مرتبط با سيستمهايي است که دینامیک آنها در برابر تغییر مقادیر اولیه، رفتار بسيار حساسی نشان می دهد؛ به طوری که رفتارهای آینده آنها دیگر قابل پیشبینی نمیباشد. به این سیستمها، سیستمهای آشوبی گفته میشود که از نوع سیستمهای غیرخطی دینامیک هستند و بهترین مثال برای آنها اثر پروانهای، جریانات هوایی و دوره اقتصادی میباشد.
این نظریه، گسترش خود را بیشتر مدیون کارهای هانری پوانکاره، ادوارد لورنتس، بنوا مندلبروت و مایکل فایگنباوم میباشد. پوانکاره اولین کسی بود که اثبات کرد، مساله سه جرم (به عنوان مثال، خورشید، زمین، ماه) مسالهای آشوبی و غیر قابل حل است. شاخه دیگر از نظریه آشوب که در مکانیک کوانتومی به کار میرود، آشوب کوانتومی نام دارد. گفته میشود که پیر لاپلاس یا عمر خیام قبل از پوانکاره، به این مشکل و پدیده پی برده بودند.