Pracownia poszukiwań
Adami, Christoph,2016-What Is Information?
Pełny widok tekstowy: wszystkie sekcje są rozwinięte i znajdują się w jednym dokumencie HTML.
Opis bibliograficzny
Christoph Adami, „What is information?”, Philosophical Transactions of the Royal Society A 374 (2016), artykuł 20150230, s. 1–14, DOI: 10.1098/rsta.2015.0230.
Zakres dostępnej kopii
Pełny czternastostronicowy anglojęzyczny artykuł typu opinion piece w numerze tematycznym „DNA as information”; zawiera pięć sekcji, dwa rysunki, równania, epilog i bibliografię. Jest to elementarne wprowadzenie, opracowane z serii blogowej autora.
Streszczenie treści
Adami objaśnia pojęcie informacji za pomocą prostych przykładów z monetami, kostkami i losowaniem kul. Punktem wyjścia jest rozróżnienie niepewności, mierzonej entropią, i informacji, która pozwala trafniej przewidywać stan innego układu. Autor podkreśla rolę przyjętego zbioru możliwych wyników, rozdzielczości pomiaru i wiedzy posiadanej przed doświadczeniem. Wprowadza entropię Shannona, jednostki informacji, prawdopodobieństwo warunkowe oraz entropię warunkową. Następnie przedstawia informację wzajemną jako różnicę między niepewnością dotyczącą jednej zmiennej a niepewnością pozostającą po poznaniu drugiej. Wyjaśnia symetrię tej zależności i pokazuje ją na diagramie. Osobno omawia wiedzę ujawniającą się w odchyleniu rozkładu od maksymalnej entropii; zaznacza, że ta perspektywa różni się od typowych prezentacji podręcznikowych. Rozmowna forma służy ujawnieniu założeń, które łatwo przeoczyć przy samym używaniu wzorów. Epilog łączy argument z poglądami Jaynesa na entropię termodynamiczną. Wskazane zastosowania w biologii, fizyce i badaniach poznania są kontekstem dla porządkowania pojęć, a nie osobnym przeglądem wyników tych dziedzin.
Hasła tematyczne
teoria informacji; entropia Shannona; informacja wzajemna; entropia warunkowa; prawdopodobieństwo warunkowe; niepewność; wnioskowanie bayesowskie; pomiar; przewidywanie; termodynamika
Spis treści
Information is a precise concept that can be defined mathematically, but its relationship to what we call ‘knowledge’ is not always made clear. Furthermore, the concepts ‘entropy’ and ‘information’, while deeply related, are distinct and must be used with care, something that is not always achieved in the literature. In this elementary introduction, the concepts of entropy and information are laid out one by one, explained intuitively, but defined rigorously. I argue that a proper understanding of information in terms of prediction is key to a number of disciplines beyond engineering, such as physics and biology.
Fiszki
Brak opublikowanych fiszek.