Thursday, December 6, 2012

A new take on causality


It's not often that something fundamentally new comes along on the topic of causality. That notion is one of the most basic concepts in science and philosophy, indeed in all human thinking (non-human as well, I would guess). Finding causal links helps us interpret the world, make predictions, render the unpredictable environment around us a little less unpredictable. But we still have a lot to learn about causality, and especially how to infer causal links using data.

This is clear from a fascinating recent study that I think will ultimately have quite an impact on applied studies of causal links in fields ranging from economics and finance to ecology. This paper by George Sugihara and colleagues -- its entitled "Detecting Causality in Complex Ecosystems" -- is well worth a few hours of study, as it explores some history of attempts to detect causal links from empirical data and then demonstrates a new technique that appears to be a significant advance on past techniques. 

The key problem in inferring causal links from data, of course, is that mere correlation does not imply causation. The two things in question, A and B, might both be linked to some other causal factor C, but actually have no causal links running from one to the other. In economics, Clive Granger became famous for proposing, in this paper 1969, a way to go beyond correlation. He reasoned that if some thing X causally influences some other thing Y, then including X in a predictive scheme should make predictions of Y better. Conversely, excluding X should make predictions worse. Causal factors, in other words, can be identified as those that reduce predictive accuracy when excluded.

This notion of ‘Granger causality’ makes obvious intuitive sense, and has found many applications, especially in econometrics. However, read the original paper and you quickly see that the theory was developed explicitly for use with stochastic variables, especially in linear systems. As Granger noted, “The theory is, in fact, non-relevant for non-stochastic variables.” Which is unfortunate as so much of the world seems to be more suitably described by nonlinear, deterministic systems.

I've just written for Nature Physics a short essay describing the Sugihara et al. work. I assume many people won't have access to that article (oddly enough, I don't either!) so I thought I'd include a few words here. One problem with Granger causality, the authors point out, is that intimate connections between the parts of any nonlinear system make ‘excluding’ a variable more or less impossible. They demonstrate this for a simple nonlinear system of two variables describing the direction interaction of, say, foxes and rabbits. Call the populations X and Y. Following Granger, you might exclude Y and see if you can predict X. If exclusion of Y reduces your ability to predict, then you've found a causal link. But this recipe yields nothing in this case, because of the nonlinearity. The mathematical model they study definitely, by construction, has a causal links between the two. But the Granger method won't show it.

Why? A key result in dynamical system theory — known as the Takens embedding theorem — implies that one can always reconstruct the dynamical attractor for a system from data in the form of lagged samples of just one variable. In effect, X(t) (fox numbers in time) is always predictable from enough of its earlier values. Hence, excluding Y doesn’t make X any less predictable. The notion of Grange causality would erroneously conclude that Y is non-causal.

To get around this problem, Sugihara and colleagues use the embedding theorem to their advantage. The reconstruction trick can be done for both variables X and Y. I won't dwell on technical details which can be found in the paper, but this yields two mathematical "manifolds" -- essentially, subsets of the space of possible dynamics that describe the actual dynamics that happen. Both of these describe the dynamical attractor of the entire system, one using the variable X, the other the variable Y. Now, sensibly, if X has a causal influence on Y, one should expect this influence to show up as a direct link between the dynamics on these two manifolds. Knowing states on one manifold (for Y) at a certain time should make it possible to know the states on the other (for X) at the same time.

That IS technical, but it's really not complicated. The original paper offers links to some beautiful simulations that aid understanding. The strength of the paper is to show how taking this small step into dynamical system theory pays big results. To begin with, it gives superior performance over the Granger method for several test problems. More impressively, it appears to have already resolved an outstanding puzzle in contemporary ecology.

Ecologists have for decades debated what’s going on with two fish species, the Pacific sardine and northern anchovy, the populations of which on a global scale alternate powerfully on a decadal timescale (see fig below). These data, some suggest, imply that these species must have some direct competition or other interaction, as when the numbers of one go up, those of the other go down. Failing any direct observation of such interactions, however, others have proposed that the global synchrony betrays something else — global forcing from changing sea surface temperatures which just happen to affect the two species differently.



Strikingly, the results from the new method -- Sugihara and colleagues give it memorable name "convergent cross mapping" -- seem to resolve the matter in one stroke. The analysis shows no evidence at all for a direct causal link between the two species, and clear evidence for a link from sea surface temperature to each species. In this case, the correlation is NOT reflecting causation, but simultaneous response to a third factor, though a response in opposite directions.

So there you go -- following the basic ideas of dynamical system theory and actually reconstructing attractors for nonlinear systems makes it possible to tease out causal links far more powerfully than correlation studies alone. This is a major advance on our understanding of causality and I find it hard to believe this technique won’t find immediate application in economics and finance as well as in ecology, neuroscience and elsewhere. If you're involved in time series analysis, looking for correlations and causal relations, give it a read. 

43 comments:

  1. That sounds like interesting work. Do you happen to know if there is a pre-print anywhere in the public domain?

    ReplyDelete
  2. http://www.uvm.edu/~cmplxsys/newsevents/pdfs/2012/sugihara-causality-science-2012.pdf

    ReplyDelete
  3. A working paper on a more complete correlation coefficient...

    http://www.ovvofinancialsystems.com/nonlinearcorrelation.html

    ReplyDelete
  4. Excellent read, Positive site, where did u come up with the information on this posting?I have read a few of the articles on your website now, and I really like your style.www.scottishpoet.co.uk |

    www.stresscall.co.uk |

    www.bedbreakfast-miltonkeynes.co.uk |

    www.sylvanenvironmental.co.uk |

    www.watchmead.co.uk |

    www.whatiwantwhenidie.co.uk |

    www.mediajingles.co.uk |

    www.lsw-ltd.co.uk |

    www.billysollox.co.uk |

    www.theburkegroup.co.uk |

    ReplyDelete
  5. Cortinas de Cristal Malaga
    It is good to see you verbalize from the heart and clarity on this important subject can be easily observed. You have provided great information in your post.

    ReplyDelete
  6. This blog is so nice to me. I will keep on coming here again and again. Visit my link as well.. הלוואה בפריסה נוחה

    ReplyDelete
  7. Wonderful points most people wrote in this article.Great Blob.I think you have made some genuinely interesting elements and guideline.
    Cheap Assignment Writing Service | Cheap Dissertation Writing Service

    ReplyDelete
  8. My Dissertation Writer can help you with your dissertations, Cheap Dissertation Writing Service , research papers & thesis. Qualified Experts & Reasonable Prices. Simply Email us the Details.

    Cheap Dissertation Writing Services

    ReplyDelete
  9. Just admiring your work and wondering how you managed this blog so well. It’s so remarkable that I can't afford to not go through this valuable information whenever I surf the internet! Car Insurance Brandon FL

    ReplyDelete
  10. I havent any word to appreciate this post.....Really i am impressed from this post....the person who create this post it was a great human..thanks for shared this with us.
    Företagslån

    ReplyDelete
  11. Each person has a different level of attitude towards life, love, emotions, feelings etc. If you have an attitude then why not set a status to define it according to your feeling. You will find various My Attitude Shayari in Hindi online anyway we have made the best gathering of Hindi Attitude Shayari which clearly you will like.

    ReplyDelete
  12. قدم شركة نقل اثاث بالقطيف خدمة نقل وتخزين  الأثاث من والى اى مكان بالمنطقه الشرقية مثل شركة نقل اثاث بالجبيل لان فروعنا موجودة فى كل مكان كا الدمام والخبر والقطيف والاحساء وسيهات ظرا لكثرة الاتصالات التى تأينا من هذه الاماكن فقررنا ان نكون عند حسن ظنهم وعلى مستوى الخدمة المطلوب  و نقوم بنقل جميع أنواع الأثاث إلى أي مكان عن طريق اسطول سيارات شركة نقل اثاث بالقطيف المجهز بأعلى المعدات والاجهزة لنقل اثاث سكنك الى المكان الذى تريده شركة نقل اثاث بالقطيف
    شركة نقل عفش بالجبيل
    شركة نقل عفش بالقطيف بنقل  الاثاث باستخدام أحدث التقنيات و الآلات الخاصة برفع و تنزيل اثاث لتجنب حدوث أي خدش أو تلف بالأثاث كما تعتمد شركة نقل عفش بالقطيف في كافة أعمال النقل على عمالة مدربة على ايدى ماهرين وفنيين لمدة شهور متواصلة حتى نكون عند المستوى الذى تنتظرونه منا كأفضل شركة نقل عفش بالقطيف  و تقدم شركة نقل اثاث بالقطيف خدماتها بكافة محافظات و مناطق الشرقية شركة نقل عفش بالقطيف
    شركة نقل عفش بالخبر

    ReplyDelete
  13. تعد عملية تنظيف المكيفات من الامور الهامة للحفاظ على المروحة والفلاتر الموجوجودة بالوحدات الداخلية كما ان عملية تنظيف المكيفات تطيل من كفاءة وعمر المكيف وتحد من انتشار الاتربة والغبار ومن اهم الوسائل التى تمنع حدوث اعطال لاجهزة التكييف حيث اننا نمتلك فى ارخص شركة غسيل مكيفات بالدمام والقطيف ا شركة تنظيف مكيفات بالدمام
    و لذلك فان المكيفات ذات اهمية كبيرة جدا في هذا الامر حيث ان المكيفات تجعل الجو صحي و آمن و يعمل علي التعقيم و التعطير للجو حتي يتم المنع للمسببات للتلوث بشكل كبير و لكي نقي الاسرة و الفرد من شر اي مخاطر او امراض او عدوي تنظيف مكيفات بالدمام
    افضل الطرق لتنظيف المكيفات بالماء بالاعتماد على مضخة المياه مع وضع وسادة بلاستيكية على الوحدة الداخلية لمنع تسرب المياه على الجدران او الارضيات هذه الوسادة تكون موصلة بمجرى الصرف الموجود بالمبنى لخروج الاوساخ من المكيف الى مجارى الصرف واهم ما يميز خدمة تنظيف وغسيل المكيفات لدينا اننا نقوم بتنظيف كافة انواع اجهزة التكييف شركة غسيل مكيفات بالدمام
    شركة تنظيف مكيفات بالقطيف
    ما اننا نقوم بتنظيف دكت المكيفات المركزية بالاعتماد على الطريقة الالكترونية من خلال جهاز Cleaning Ducts Air Machineالذى يقوم بتنظيف مجارى الهواء بشكل كامل فلدينا افضل شركة تنظيف دكت مكيفات مركزية بالدمام والقطيف بالطرق المتطورة والحديثة شركة تنظيف مكيفات بالخبر

    ReplyDelete
  14. شركة تنظيف خزانات بالقطيف يقوم العمال لدي شركتنا شركة غسيل مكيفات بالدمام وشركة تنظيف خزانات بالمدينة المنورة بالتصوير للمكيف من الداخل حتي يتم التعيين و التحديد له من الداخل و معرفة ما يوجد به من الداخل من اوساخ او من اتربة او اي شيئ يمكن ان يكون غير نظيف و يقوموا ايضا بالتحديد اذا تواجد به ميكروبات او جراثيم من الداخل حيث ان هذه الميكروبات و الجراثيم من الممكن ان تتسبب للانسانبامراض التنفس
    شركة تنظيف خزانات بالدمام
    شركة تنظيف خزانات بالخبر يتم ايضا القضاء علي اي فطريات من الممكن ان تتواجد بداخل المكيفات حيث يقوموا بفك اي فتحات خاصة بالتهوية و يقوم العمال بالفك للفتحات للتبريد التي يقوم الهواء بالخروج منها و عن طريق هذه الفتحات و يقوم العمال بالادخال لجهاز التنظيف و الغسيل للمكيف و يتم العمل للغسيل الشامل للمكيف من الداخل و ستم غسيل شامل للماكينة من الخارج و يتم المسح الجيد للمكيف قبل ان يتم تركيبه و تنظيفه و سحب ماكينة التنظيف الداخلية منه .
    شركة تنظيف كنب بالخبر
    غسيل مكيفات بالدمام

    ReplyDelete
  15. تعتمد شركتنا افضل شركة نقل اثاث بالاحساء والخبر والجبيل والقطيف فى اعمالها على فريق عمل مهيئ تماما للعمل تحت اى ظرف ومن خلال الات متطورة لنقل الاثاث بكل سهولة ويسر وايضا من اجل توفير الوقت ولراحة العميل. ان شركتنا  افضل شركة نقل اثاث بالدمام تضمن لعملائها استلام وتسليم اثاث المنزل كما هو دون حدوث اى اضرار له وذلك لان الشركة مجهزة باحدث السيارات الحديثة والمتخصصة فى نقل الاثاث والمصممة خصيصا لذلك .ان كنت تبحث عن شركة نقل اثاث متمرسة فان شركتنا ستوفر لك كل ما تحتاجه شركة نقل اثاث بالاحساء
    لا داعي للبحث طويلا عن شركات نقل الاثاث بالخبر  فقد اخترت بعد توفيق من الله الشركة الصحيح من خلال شركة نقل اثاث بالخبر فهي شركة متخصصة و متميزة في مجال نقل الاثاث و تاريخنا مشرف و لنا قاعدة كبيرة من العملاء تشهد لنا بذلك كل ما عليك هو الاتصال بنا فى افضل شركة نقل اثاث بالخبر  و اترك كافة الاعمال علينا لتجد مستوى خدمة متميز و راق و مشرف فقط ليس عليك سوى الاتصال بنا لتجد كل الخدمات التي تتمناها و أكثر من خلال شركتنا شركة نقل اثاث بالخبر شركة نقل عفش بالخبر
    اننا فى شركة نقل عفش بالجبيل والدمام والخبر والقطيف  يجب ان تضع نصب عينيك ضرورة المحافظة على عفشك فى المقام الاول من اى كسور او خدوش  كما هو مع تجنيب اى مشكلة او  ضرر قد يلحق بأثاث او عفش سكنك نتيجة لعمليات النقل التقليدية الغير سليمة يمكن ان يذكر فاننا ذعنا و ذاع صيتنا لما تبذله شركةشركة نقل اثاث بالدمام وبالجبيل من اعمال وترتيبات منظمة وصعبة من اجل ان ننال اعجابكم وثقتكم ولكي ننال رضي عملائنا و الحفاظ على المنقولات التي تم نقلها و العنايه بها فى افضل حال شركة نقل اثاث بالجبيل
    شركة نقل عفش بالاحساء
    ارخص شركة نقل اثاث بالدمام

    ReplyDelete
  16. قبطان الخليج -0504353061-يُعد الأثاث من أكثر الأشياء التي تحتاج إلى حرص ودقة بالغة عند القيام بنقلها شركة نقل عفش بالظهران
    شركة نقل اثاث بالظهران

    ReplyDelete
  17. شركة نقل اثاث بالخبر
    شركة نقل اثاث بالقطيف المجهز بأعلى المعدات والاجهزة لنقل اثاث سكنك الى المكان الذى تريده دون احداث اى تلف او كسور فة الاثاث او العفش  كما تقوم شركة نقل اثاث بالقطيف بنقل  الاثاث باستخدام أحدث التقنيات و الآلات الخاصة برفع و تنزيل اثاث لتجنب حدوث أي خدش أو تلف بالأثاث كما تعتمد شركة نقل عفش بالقطيف في كافة أعمال النقل على عمالة مدربة على ايدى ماهرين شركة نقل عفش بالخبر
    شركة نقل اثاث بالقطيف
    كما تقدم الشركة أيضًا خدمة التنظيف بشكل شامل لكل من الشركات والفلل والقصور وغيرها من الأماكن، كما أننا نقوم فى شركة نقل عفش بالقطيف شركة نقل عفش بالقطيف
    شركة نقل اثاث برأس تنورة

    ReplyDelete
  18. تخلص من جمیع أنواع الحشرات الضارة التي تؤذیك وتؤذي عائلتك واتصل بشركة مكافحة النمل الابيض بالقطيف لتحصل على خدمة ممتازة ومعاملة ممتازة، تخلص من الأمراض التي ممكن أن تصیب أفراد عائلتك وتواصل مع شركتنا لتحصل على منزل خالي من الحشرات الضارة التي تؤرق حیاتك وتخرب المنزل، شركة مكافحة النمل الابيض بالقطيف شركة مكافحة البق بالدمام
    شركة مكافحة النمل الابيض بالدمام
    مكافحة النمل الابيض بالدمام شركة مكافحة النمل الابيض بالقطيف
    شركة رش مبيدات بالدمام وافضل شركات رش الحشرات عن طريق مبيدات فعالة تقضي على الحشرات شركة رش مبيدات بالدمام

    ReplyDelete
  19. نحن في شركة نظافه بالخبر نعد الافضل في مجال تنظيف الشقق لاننا نهتم بادق التفاصيل المهمة التي تعطي انطباع جيد لدي عملائنا لهذا فنحن شركة نظافه بالخبرنستخدم أفضل الادوات التي تستخدم في عملية التنظيف العالمية التي تستخدم في افضل الدول العالمية شركة تنظيف كنب بالدمام
    شركة غسيل كنب بالدمام
    مؤسسه انوار طيبه تعتبر أفضل شركة تنظيف فلل وشقق بالدمام والأحساء: هو التعاون مع الشركات المتخصصه فى تنضيف الشقق وطبعاً بنقدر نعتمد على الشركات المتخصصه فى تنضيف الشقق بالكامل وده لان الشركات المتخصصه فى تنضيف الشقق عندها عمال بيقومو بتنضيف الشقق وطبعاً بكل محتوياتها يعنى كل حاجه موجوده فى الشقه يعنى المفروشات والعفش والنجف والزجاج وكمان الحوائط والعمال عندهم القدرة على تنضيف الحوائط والجدران مهما كانت متسخه وخصوصاً لو الشقه دى فيها اطفال لانه زى ما احنا عارفين ان الاطفال عندهم هواية شركات تنظيف شقق بالدمام شركة تنظيف كنب بالقطيف

    ReplyDelete
  20. شركة نقل عفش بالدمام
    عالميه الدمام- 0542613483 - افضل شركات نقل العفش بالمنطقه الشرقيه شركة نقل اثاث بالدمام
    ارخص شركة نقل اثاث بالدمام
    شركة نقل اثاث بالجبيل
    شركة نقل عفش بالخبر تحرص على تقديم الضمان اللازم عن العمل الذي تقوم به لعملائها الكرام، فالضمان بدوره يطمئن العميل وفي النفس الوقت يضمن مصداقية الشركة نقل عفش بالخبر
    شركة نقل عفش بالجبيل
    شركة نقل عفش بالجبيل

    ReplyDelete

  21. شركة نقل اثاث بالقطيف عملها يبدأ من البداية إلى أخر مرحلة وهي مرحلة التركيب والفرش بالمكان الجديد، من خلال ما لدينا من سيارات بأعداد كبيرة وحديثة وبها أفضل السائقين مما يضمن وصول العفش للعميل شركة نقل عفش بالجبيل
    شركة نقل عفش بالقطيف
    شركتنا شركة نقل اثاث بالخبر الأفضل كونها تنظم من عملها، وتنظم من عمالتها، فكل عامل له عمل مخصص يقوم به. شركة نقل عفش بالخبر

    ReplyDelete
  22. Awesome work ! I am planning to get an education loan but I was confused about the best deals available for me , your post gave me an amazing idea to explore for overseas study loan australia. Nice post, keep posting.

    ReplyDelete
  23. اقوى الخدمات الخاصة بأعمال نقل العفش مع الفك والتركيب في الرياض يقدمها موقع خدماتي الذي يضم افضل شركات نقل عفش واثاث بالرياض التي تقدم خدماتها بمنتهى الاحترافية والدقة معتمدين على فريق عمل مدرب جيدا ونجارين متخصصين لتقديم خدمات افضل شركه نقل عفش بالرياض باحترافية عالية وجودة غير مسبوقة

    ReplyDelete
  24. افضل واقوى الخدمات الخاصة بأعمال نقل العفش والاثاث بجدة يقدمها موقع خدماتي تحت مسمى افضل شركات نقل عفش واثاث بجده متميزة ومضمونة وتقدم خدماتها باحترافية عالية وتعتبر شركتنا افضل شركة نقل عفش بجدة متميزة ومضمونة وتعتمد على عمالة احترافية

    ReplyDelete
  25. Self Storage Dubai
    Assuming you are on the chase after a top financial plan storage space in Dubai that wont beg to be spent , we Self Storage Dubai gathered together the least expensive storage spaces in every city in Dubai.

    It is UAE based quickest moving supplies company ( 2 hours conveyance ) moving boxes , freight boxes , air pockets wrap , tape and so forth .

    One of the expert pressing trucking organizations in Dubai. Proficient staff for house moving , office moving , prepared vehicles and constant help in UAE

    ReplyDelete
  26. crowdfunding for nonprofits

    Crowdfunding allows nonprofits to raise donations from a larger audience without hiring more people to its development team.
    In fact, individuals not directly affiliated with nonprofits can and do leverage crowdfunding strategies on behalf of nonprofits every day.

    ReplyDelete
  27. https://teachertalk-addie.blogspot.com/2016/05/end-of-year-calming-chaos.html

    ReplyDelete
  28. The British Medical Center in Sharjah is often regarded as a preferred medical destination due to its commitment to delivering top-notch healthcare services. With a team of highly qualified medical professionals and state-of-the-art facilities, the center provides a wide range of medical specialties, including general medicine, specialized clinics, diagnostics, and preventive care.
    Visit our website for more info!
    https://britishmedicalcomplex.com/

    ReplyDelete
  29. افضل شركات نقل عفش واثاث مع الفك والتركيب والتغليف بعمالة مدربة وفنيين مدربين وسيارات مجهزة لنقل الاثاث بالممكلكة
    شركة نقل عفش بجدة

    ReplyDelete