Ujmowana ilościowo taka informacja to różnica między entropią (odpowiednio termodynamiczną lub strukturalną) układu maksymalną, a entropią (odpowiednio termodynamiczną lub strukturalną) układu daną, czyli negentropia (termodynamiczna lub strukturalna) układu.

Informacja

Informacja (łac. informatio – przedstawienie, wizerunek; informare – kształtować, przedstawiać) - termin interdyscyplinarny, definiowany różnie w różnych dziedzinach nauki; najogólniej - właściwość pewnych obiektów, relacja między elementami zbiorów pewnych obiektów, której istotą jest zmniejszanie niepewności (nieokreśloności).

Pojęcie informacji stosuje również ekonomia informacji. Jednym z nurtów w tej dziedzinie jest analiza zachowania graczy na rynku z uwzględnieniem posiadanych przez nich informacji na temat oferowanych dóbr i innych cech rynku. Szczególnie, gdy rozkład informacji wśród graczy jest asymetryczny.

Przenoszenie i przetwarzanie informacji

Informacja może być przenoszona w czasie i przestrzeni. Przenoszenie w czasie nazywamy magazynowaniem lub zapamiętywaniem, przenoszenie w przestrzeni - przekazem lub komunikowaniem. Przenoszenie informacji odbywa się za pośrednictwem obiektów fizycznych i zjawisk fizycznych zwanych nośnikami informacji. Magazynowanie związane jest najczęściej ze stanami wyróżnionymi obiektu fizycznego - podłoża zapisu, a przekaz ze stanami wyróżnionymi zjawiska fizycznego - sygnałami.

Według Mariana Mazura:

Ujmowana ilościowo informacja (ilość informacji) o stanach wyróżnionych (możliwościach, zdarzeniach, wartościach zmiennej losowej, przewidywanych wynikach doświadczenia, strukturze układu modelowanego, treści komunikatu nadanego) β zawarta w stanach wyróżnionych (możliwościach, zdarzeniach, wartościach zmiennej losowej, otrzymanych wynikach doświadczenia, strukturze modelu, treści komunikatu odebranego) α, to usunięta przez α część nieokreśloności (entropii informacyjnej) β.

Przykład 1.: Na początku toru sterowniczego mogą zachodzić stany wyłącznika: wyłączony, włączony; w miejscu pośrednim toru stany napięcia: zerowe, niezerowe; na końcu toru stany żarówki: nieświecąca, świecąca. Informacjami są transformacje: wyłącznik wyłączony - wyłącznik włączony, napięcie zerowe - napięcie niezerowe, żarówka nieświecąca - żarówka świecąca. Natomiast transformacje: wyłącznik wyłączony - napięcie zerowe - żarówka nieświecąca i wyłącznik włączony - napięcie niezerowe - żarówka świecąca są transformacjami wzdłużnymi komunikatów w torze sterowniczym tj. zmianami stanów wyróżnionych w pewnym punkcie toru (systemu przekazywania informacji) na stany wyróżnione w innym punkcie toru (przyporządkowaniami sobie tych stanów, relacjami między nimi) i nazywane są kodami.

1. obiektywny - informacja oznacza pewną właściwość fizyczną lub strukturalną obiektów (układów, systemów), przy czym jest kwestią dyskusyjną czy wszelkich obiektów, czy jedynie systemów samoregulujących się (w tym organizmów żywych), 2. subiektywny - informacja istnieje jedynie względem pewnego podmiotu, najczęściej rozumianego jako umysł, gdyż jedynie umysł jest w stanie nadać elementom rzeczywistości znaczenie (sens) i wykorzystać je do własnych celów.

Wyróżnia się trzy, powiązane ze sobą, koncepcje (teorie) informacji, związane z jej aspektami semiotycznymi:

Inne interpretacje

Informacja i wiedza są obecnie uważane za nowy towar na rynku, podobny do dóbr materialnych czy energii. Ze względu na ten fakt, Internet i inne masowe źródła informacji, obecne społeczeństwo globalne nazywane jest społeczeństwem informacyjnym (Information Society). Tak rozumiana informacja w popularnym rozumieniu tego słowa, to sposób przenoszenia wiedzy faktycznej lub domniemanej o jakimkolwiek wydarzeniu faktycznym lub fikcyjnym. Informując kogoś o kimś lub czymś zawiadamiamy o czymś innych, lub dzielimy się z kimś naszą wiedzą na dany temat.

"...informacja (...) jest różnorodnością, jaką jeden obiekt zawiera o innym obiekcie, jest wzajemną i względną różnorodnością. (...) informację można określić jako odbitą różnorodność, jako różnorodność, którą obiekt odbijający zawiera o obiekcie odbijanym...".

Zobacz też

• dezinformacja
• komunikat
• obwieszczenie
• kontrwywiad
• systemy informacyjne
• Informacja niejawna

Według Mariana Mazura:

Informacja w odniesieniu do budowy układu

Informacja jest to stopień uporządkowania (lub zorganizowania) układu (Definicja 3).

gdzie: I(X;Y) - informacja wzajemna Y o X, H(X) - entropia bezwarunkowa zbioru X, H(X|Y) - entropia warunkowa X pod warunkiem Y.

Gdy odebrany komunikat zmniejsza nieokreśloność X do zera (), ilość przekazanej informacji jest równa entropii źródła . Także (zawartość informacji w źródle, w zmiennej losowej, samoinformacja), gdyż .

Można wyróżnić dwa podstawowe punkty widzenia informacji:

Jeśli grupa ludzi lub społeczeństwo ma w pewnej dziedzinie ten sam system konceptualizacyjny (np. teorie, zbiory poglądów, definicje), to te same sygnały komunikacyjne odbierają w ten sam sposób, to znaczy dostarczają im one tą samą informację do przetwarzania.

1. informację swobodną, kiedy możliwosci (stany, zdarzenia) uważamy za abstrakcyjne i nie przypisujemy im żadnego znaczenia fizycznego, 2. informację związaną, kiedy możliwosci (stany, zdarzenia) mogą być interpretowane jako mikrostany (lub zbiory mikrostanów) pewnego układu fizycznego.

Informacja zawarta w stanach układu kwantowego to informacja kwantowa.

Informacja to struktura (układ relacji wiążących elementy układu) (Definicja 4).

1. w odniesieniu do procesu komunikowania się (systemu przekazywania informacji, toru sterowniczego), 2. w odniesieniu do budowy układu.

Informacja w odniesieniu do procesu komunikowania się

Informacja jest to wyróżnienie przez pewien układ informacyjny (odbiorcę), ze swojego repertuaru, pewnego stanu wyróżnionego (przez odróżnienie go od innego stanu wyróżnionego), odbijające wyróżnienie stanu wyróżnionego układu informacyjnego będącego nadawcą (Definicja 1).

1. Ilość informacji otrzymanej przy zajściu zdarzenia xi (entropia tego zdarzenia, entropia indywidualna) to (Hartley 1928):

W tym znaczeniu informacja dotyczy struktury układu i jest nazywana informacją strukturalną.

gdzie: Ii - ilość informacji otrzymanej przy zajściu zdarzenia xi, pi - prawdopodobieństwo zajścia zdarzenia xi, r - podstawa logarytmu.

W teorii informacji najczęściej stosuje się logarytm o podstawie r = 2, wówczas jednostką informacji jest bit (szanon). Przy r = e jednostką jest nat (nit), natomiast przy r = 10 - dit (hartley).

Informacja subiektywna

Znaczenie informacji - koncepcja semantyczna

Wartość informacji - koncepcja pragmatyczna

Kognitywistyka

W tej perspektywie, informacja jest indywidualną lub grupową interpretacją otrzymanego ciągu sygnałów (np. dźwiękowych czy optycznych) i musi zawsze opisywać stan jakiejś dziedziny.

Bardziej szczegółowo można rozpatrywać informację:

Można odróżnić:

O informacji mozna tu mówić jedynie w odniesieniu do układu, który jest zdolny ją odebrać (odbić wyróżnienie stanu wyróżnionego nadawcy), i tylko w takim zakresie, w jakim jest zdolny. Różne układy informacyjne mogą odbijać (rozpoznawać) różne stany wyróżnione z różnych repertuarów.

Podejście kognitywistyczno-systemowe w meta-teorii TOGA daje nam ścisłe definicje rozróżniające dane, informacje, wiedzę i preferencje jako podstawowe funkcjonalne elementy procesów myślowych naturalnych i sztucznych (zobacz też: Sztuczna inteligencja). W tej systemowej interpretacji, informacja jest przetwarzana przez naszą wiedzę i w wyniku daje inną informację lub nową wiedzę. W zależności od tzw. indywidualnego systemu konceptualizacji, ten sam ciąg sygnałów/znaków (danych) może być źródłem różnych informacji dla różnych osób lub robotów.

gdzie: H(X) - entropia bezwarunkowa zbioru X, n - liczba zdarzeń w zbiorze, pi - prawdopodobieństwo zajścia zdarzenia xi.

3. Ilość informacji o zdarzeniach ze zbioru X (wartościach zmiennej losowej X), np komunikatach nadanych (stanach źródła informacji), zawarta w zdarzeniach ze zbioru Y (wartościach zmiennej losowej Y), np komunikatach odebranych (stanach odbiorcy), tzw. informacja wzajemna, równa jest różnicy pomiędzy entropią bezwarunkową zbioru X (entropią źródła), a entropią zbioru X, jaka pozostaje po odebraniu komunikatu ze zbioru Y (entropią warunkową X pod warunkiem Y):

1. statystyczno - syntaktyczną z probabilistycznym i składniowym, 2. semantyczną ze znaczeniowym, 3. pragmatyczną z wartościowym (cennościowym) - w odniesieniu do problemu podejmowania decyzji przez jej odbiorcę związanych z jego celem.

Informacja obiektywna

W cybernetyce i teorii informacji najbardziej ogólnie: każde rozpoznanie stanu układu, odróżnialnego od innego stanu tego układu (stanu wyróżnionego); wyróżnienie pewnego stanu wyróżnionego (odróżnialnego) z repertuaru (zbioru stanów wyróżnionych). "...w pojęciu informacji istotne jest nie samo zaistniałe zjawisko, lecz jego stosunek do zbioru zdarzeń, które mogły były zaistnieć".

Jeżeli danymi nazywamy wszystko to co jest przetwarzalne (Gadomski), to informacja jest danymi, ale nie każde dane są informacją, np. "gołe" liczby są zawsze danymi, ale jeśli nadamy im znaczenie w określonej dziedzinie, to są też informacją, np. (5) i (5 stopni Celsjusza za naszym oknem).

Informacja jest to transformacja poprzeczna komunikatów w torze sterowniczym tj. zmiana pewnego stanu wyróżnionego w pewnym punkcie toru sterowniczego (systemu przekazywania informacji) na inny stan wyróżniony w tym samym punkcie; przyporządkowanie sobie tych stanów (relacja między nimi) (Definicja 2).

Przykład 2.: Informacja o odległości "w terenie" to relacja między długością danego odcinka, a długością odcinka wzorcowego (jednostki miary) np. 3 km : 1 km = 3. Informacja ta może być zakodowana na mapie, jako relacja między długością odcinka na mapie, a długością odcinka wzorcowego mapy np. 3 cm : 1 cm = 3. Kodem jest tu relacja między długością odcinka wzorcowego mapy, a długością odcinka wzorcowego "w terenie" - skala (podziałka) mapy np. 1 cm : 1 km = 1:100000.

W tym znaczeniu informacja ma charakter relatywny i jest nazywana informacją względną.

Problemami przetwarzania informacji zajmuje się informatyka.

Podejście kognitywistyczne jest też bliskie rozumieniu informacji w języku naturalnym i jakie jest przyjęte w zarządzaniu wiedzą.

To, ile informacji zawierają komunikaty, zależy od stanu niewiedzy odbiorcy, co do nadawcy. Im większą zmianę w nieokreśloności (niewiedzy) odbiorcy, co do nadawcy, wywołuje komunikat odebrany, tym dostarcza (zawiera) więcej informacji.

Wyróżnienie przez układ (nadawcę lub odbiorcę) pewnego swojego stanu wyróżnionego (odróżnienie go od innego stanu wyróżnionego), o którym mowa w definicji pierwszej, skutkuje właśnie ustanowieniem relacji między tymi stanami, o której mowa w definicji drugiej.

Miary ilości informacji

Ilościowym aspektem informacji zajmuje się statystyczno - syntaktyczna teoria informacji Hartleya i Shannona. Miary ilości informacji są w niej oparte o prawdopodobieństwo zajścia zdarzenia. Jako miarę ilości informacji przyjmuje się wielkość niepewności, która została usunięta w wyniku zajścia zdarzenia (otrzymania komunikatu). Zdarzenia (komunikaty) mniej prawdopodobne dają więcej informacji. To podejście pomija znaczenie (semantykę), jakie niesie komunikat, a skupia się jedynie na jego składni (syntaktyce).

2. Przeciętna ilość informacji przypadająca na zajście zdarzenia z pewnego zbioru n zdarzeń (entropia bezwarunkowa tego zbioru, entropia przeciętna) jest średnią arytmetyczną ważoną ilości informacji otrzymywanej przy zajściu poszczególnych zdarzeń, gdzie wagami są prawdopodobieństwa tych zdarzeń (Shannon 1948):

Informację strukturalną (strukturę) niekiedy uważa się za jeden z trzech składników każdego układu (czyli pośrednio całej rzeczywistości). Każda rzecz, proces czy zjawisko może być bowiem rozpatrywane w wymiarze materialnym (czyli pewnej liczby cząstek), tzw. "energetycznym" (czyli ruchu fizycznego, którego miarą jest energia) i strukturalnym (informacyjnym).