Ақпараттың ауытқуының күрделілігі - Information fluctuation complexity - Wikipedia

Ақпараттың ауытқуының күрделілігі болып табылады ақпараттық-теориялық туралы ақпараттың ауытқуы ретінде анықталған шама энтропия. Бұл динамикалық жүйеде тәртіп пен хаостың басымдығының ауытқуынан туындайды және оны өлшеу ретінде қолданылған күрделілік әр түрлі өрістерде. Оны Бейтс пен Шепард 1993 жылы шығарған.[1]

Анықтама

Дискретті динамикалық жүйенің ақпараттық ауытқуының күрделілігі ықтималдықтың таралуы кездейсоқ сыртқы деректерге тәуелді болған кезде оның күйлері. А сияқты бай ақпарат көзімен жүйені басқарудың мақсаты кездейсоқ сандар генераторы немесе а ақ шу сигналы жүйенің ішкі динамикасын а жиілікке бай импульс ішінде қолданылады сигналдарды өңдеу.

Егер жүйеде болса мүмкін күйлер және мемлекеттік ықтималдықтар белгілі, содан кейін оның ақпараттық энтропия болып табылады

қайда болып табылады ақпарат мазмұны мемлекет .

The ақпараттық ауытқудың күрделілігі жүйенің стандартты ауытқу немесе ауытқуы оның орташа мәні туралы :

немесе

The мемлекеттік ақпараттың ауытқуы барлығымен максималды ретсіз жүйеде нөлге тең ; жүйе жай кездейсоқ кірістерді имитациялайды. тек бір тұрақты күйде жүйеге тамаша тапсырыс берілгенде де нөлге тең болады , кірістерге қарамастан. бұл екі шекті деңгейдің арасында нөлге тең емес, ықтималдық деңгейі жоғары және ықтималдығы төмен күйлер де орналасқан мемлекеттік кеңістік.

Ақпараттың ауытқуы есте сақтауға және есептеуге мүмкіндік береді

Күрделі динамикалық жүйе уақыт бойынша дамып келе жатқанда, оның күйлер арасындағы ауысуы сыртқы қоздырғыштарға ретсіз түрде тәуелді болады. Кейде ол сыртқы тітіркендіргіштерге сезімтал (тұрақсыз), ал кейде сезімталдығы төмен (тұрақты) болуы мүмкін. Егер белгілі бір күйде бірнеше ықтимал күйлер болса, сыртқы ақпарат қайсысының келесі болатынын анықтайды және жүйе күйдегі кеңістіктегі белгілі бір траектория бойынша осы ақпаратты алады. Бірақ егер бірнеше түрлі күйлер бір күйге әкелсе, онда келесі күйге енген кезде жүйе өзінің қай күйде болғандығы туралы ақпаратты жоғалтады. Осылайша, күрделі жүйе уақыт бойынша дамып келе жатқан кезде ауыспалы ақпарат алу мен жоғалтуды көрсетеді. Ақпараттың кезектесуі немесе ауытқуы есте сақтау мен ұмытумен пара-пар - уақытша ақпаратты сақтау немесе есте сақтау - қарапайым емес есептеудің маңызды белгісі.

Мемлекеттер арасындағы ауысуларға байланысты ақпараттың пайдасы немесе жоғалуы мемлекеттік ақпаратпен байланысты болуы мүмкін. The таза ақпараттық пайда күйден ауысу мемлекетке бұл штаттан шыққан кезде алынған ақпарат күйге енген кезде жоғалған ақпарат аз :

Мұнда болып табылады алға шартты ықтималдығы егер қазіргі мемлекет болса онда келесі күй және болып табылады кері шартты ықтималдығы егер қазіргі мемлекет болса онда алдыңғы күй болды . Шартты ықтималдықтар ауысу ықтималдығы , күйден ауысу ықтималдығы мемлекетке пайда болады:

Шартты ықтималдықтарды жою:

Сондықтан жүйенің көшу нәтижесінде алған таза ақпараты жай ақпараттың бастапқы күйден соңғы күйге өсуіне байланысты. Бұл тіпті бірнеше рет ауысқан кезде де дұрыс болатындығын көрсетуге болады.[1]

күш пен арасындағы байланысты еске түсіреді потенциалды энергия. әлеуетке ұқсас және күш сияқты жылы . Сыртқы ақпарат жадыны сақтау үшін «жоғары» жүйені жоғары ақпараттық потенциалға «итермелейді», мысалы, массаны жоғары гравитациялық потенциалға көтеру сияқты. Энергияны сақтау мөлшері тек төбеге көтерілетін жолға емес, тек соңғы биіктікке байланысты. Ақпаратты сақтау көлемі де мемлекеттік кеңістіктегі екі күйдің өту жолына байланысты емес. Жүйе жоғары ақпараттық потенциалы бар сирек жағдайға жеткенде, бұрын сақталған ақпаратты жоғалтып, кең таралған күйге «түсіп кетуі» мүмкін.

Есептеу пайдалы болуы мүмкін стандартты ауытқу туралы оның орташа мәні туралы (ол нөлге тең), атап айтқанда ақпараттың таза пайдасының ауытқуы ,[1] бірақ көп ауысуды ескереді жад циклдары мемлекеттік кеңістікте, сондықтан жүйенің есептеу күшінің жақсы индикаторы болуы керек. Оның үстіне, есептеу оңай, өйткені күйлерге қарағанда көптеген ауысулар болуы мүмкін.

Хаос және тәртіп

Сыртқы ақпаратқа (тұрақсыз) экспонаттарға сезімтал динамикалық жүйе ретсіз мінез-құлық, ал сыртқы ақпаратқа сезімтал емес (тұрақты) мінез-құлықты көрсетеді. Күрделі жүйе бай ақпарат көзіне бағдарланған кезде динамикалық тепе-теңдікте ауытқып отыратын екі мінез-құлықты да көрсетеді. Тербеліс дәрежесі арқылы анықталады ; ол ретсіздіктің басымдылығының кезектесуін және уақыт жүйесінде дамыған сайын күрделі жүйеде ұстайды.

Мысал: элементар ұялы автоматтың 110 нұсқасы

The 110 нұсқасы қарапайым ұялы автомат болды дәлелденген қабілетті болу әмбебап есептеу. Дәлел планерлер немесе деп аталатын біртұтас және өзін-өзі жетілдіретін жасуша үлгілерінің болуы мен өзара әрекеттесуіне негізделген ғарыш кемелері, жедел автоматты жасушалар топтарының планердің олар арқылы өтіп жатқанын есте сақтау қабілетін білдіретін құбылыстар. Сондықтан күйдің кеңістігінде ақпаратты алу мен жоғалту, тұрақсыздық пен тұрақтылық, хаос пен тәртіптің кезектесуі нәтижесінде пайда болатын жад циклдары болады деп күтуге болады.

110 ережеге бағынатын 3 жасушалы іргелес автомат жасушаларының тобын қарастырайық: соңы-орталығы. Орталық ұяшықтың келесі күйі ережеге сәйкес өзінің және соңғы ұяшықтардың ағымдағы күйіне байланысты:

Бастапқы ұялы автоматтар ережесі 110.
3 жасушалы топ1-1-11-1-01-0-11-0-00-1-10-1-00-0-10-0-0
келесі орталық ұяшық01101110

Осы жүйенің ақпараттық ауытқуының күрделілігін есептеу үшін a қосыңыз драйвер ұяшығы кездейсоқ сыртқы тітіркендіргішті қамтамасыз ету үшін 3 жасушалы топтың әр ұшына, драйвер → орталық-соңы ← драйвері, ережені екі ұяшыққа қолдануға болатындай етіп. Алдыңғы шартты ықтималдықтарды анықтау үшін кез-келген ықтимал күй үшін және драйвер ұяшықтарының ішіндегі әрбір мүмкін комбинациясы үшін келесі күйдің қандай болатынын анықтаңыз.

The күй диаграммасы Бұл жүйенің күйлері бейнеленген шеңберлері және күйлер арасындағы өтулерді көрсететін төменде бейнеленген. Осы жүйенің сегіз күйі, 1-1-1 дейін 0-0-0 3 ұяшық тобының 3 биттік мазмұнының ондық эквивалентімен белгіленеді: 7-ден 0-ге дейін. Өтпелі көрсеткілер алға шартты ықтималдықтармен белгіленеді. Хаос пен тәртіптің өзгергіштігіне сәйкес келетін көрсеткілердің дивергенциясы мен конвергенциясында өзгергіштік бар екеніне назар аударыңыз, драйвер ұяшықтарынан сыртқы ақпараттың жоғарылауы мен жоғалуы.

Кездейсоқ ынталандырумен алға жылжудың шартты ықтималдықтарын көрсететін 110 элементарлы ұялы автоматтың 3 жасушалық күй диаграммасы.

Алдыңғы шартты ықтималдықтар белгілі бір ауысуды басқаратын ықтимал драйвер ұяшықтарының үлесімен анықталады. Мысалы, драйвер ұяшығының екі мүмкін болатын төрт тіркесімі үшін 7 күй 5, 4, 1 және 0 күйлеріне әкеледі , , , және әрқайсысы 1/4 немесе 25% құрайды. Сол сияқты 0 күйі 0, 1, 0 және 1 күйлеріне әкеледі және әрқайсысы 1/2 немесе 50% құрайды. Және тағы басқалар.

Мемлекеттік ықтималдықтар байланысты

және

Бұл сызықтық алгебралық теңдеулерді қолмен немесе компьютерлік бағдарламаның көмегімен күй ықтималдығы үшін шешуге болады, келесі нәтижелер:

б0б1б2б3б4б5б6б7
2/172/171/345/342/172/172/174/17

Ақпараттық энтропия мен күрделілікті мемлекеттік ықтималдықтардан есептеуге болады:

Сегіз күй үшін мүмкін болатын максималды энтропия - екенін ескеріңіз егер бұл барлық сегіз күй бірдей 1/8 ықтималдықтарымен (кездейсоқтық) бірдей болған жағдайда болар еді. Осылайша, 110 ережесінде 2,86 бит кезінде салыстырмалы түрде жоғары энтропия немесе мемлекеттік пайдалану бар. Бірақ бұл энтропия туралы мемлекеттік ақпараттың едәуір ауытқуын және осылайша күрделіліктің маңызды мәнін болдырмайды. Сонымен, максималды энтропия болар еді күрделілікке жол бермейді.

Жоғарыда келтірілген аналитикалық әдісті қолдану мүмкін болмаған жағдайда күй ықтималдығын алу үшін балама әдісті қолдануға болады. Жүйені кірістерінде (драйвер ұяшықтарында) кездейсоқ көзімен көптеген ұрпаққа басқарыңыз және күй ықтималдығын эмпирикалық түрде қадағалаңыз. Мұны 10 миллион ұрпақ үшін компьютерлік модельдеу арқылы жасаған кезде нәтиже келесідей болады:[2]

110 элементар ұялы автоматты ереже үшін ақпарат айнымалылары
ұяшықтардың саны345678910111213
(бит)2.863.814.735.666.567.478.349.2510.0910.9711.78
(бит)0.560.650.720.730.790.810.890.901.001.011.15
0.200.170.150.130.120.110.110.100.100.090.10

Екеуінен бастап және жүйенің өлшемімен, олардың өлшемсіз арақатынасымен ұлғаю , ақпараттың ауытқуының салыстырмалы күрделілігі, әртүрлі өлшемдегі жүйелерді жақсы салыстыру үшін енгізілген. Эмпирикалық және аналитикалық нәтижелер 3 жасушалы автоматқа сәйкес келетініне назар аударыңыз.

Бейтс пен Шепардтың қағазында,[1] барлық қарапайым ұялы автоматтар ережелері үшін есептелген және баяу қозғалатын планерлерді және мүмкін стационарлық заттарды көрсететіндер, 110 ереже бойынша, үлкен мәндермен өте тәуелді екендігі байқалды. . сондықтан дәлелдеу үшін жалықтыратын әмбебап есептеу үшін үміткер ережелерін таңдау үшін сүзгі ретінде қолдануға болады.

Қолданбалар

Ақпараттық ауытқудың күрделілігі формуласын шығару динамикалық жүйенің ақпараттық ауытқуларына негізделгенімен, формула тек күй ықтималдықтарына тәуелді және кез-келген ықтималдық таралуына, соның ішінде статикалық кескіндерден немесе мәтіннен алынған.

Осы жылдар ішінде түпнұсқа қағаз[1] болды сілтеме жасалды әр түрлі саладағы зерттеушілерге: күрделілік теориясы,[3] күрделі жүйелер туралы ғылым,[4] хаотикалық динамика,[5] экологиялық инженерия,[6] экологиялық күрделілік,[7] уақыттық серияларды экологиялық талдау,[8] экожүйенің тұрақтылығы,[9] ауа[10] және су[11] ластану, гидрологиялық вейвлет анализі,[12] топырақ суының ағымы,[13] топырақ ылғалдылығы,[14] ағынды сулар,[15] жер асты суларының тереңдігі,[16] әуе қозғалысын басқару,[17] ағынның үлгілері,[18] топология,[19] металды нарықтық болжау[20] және электр энергиясы[21] баға, адамның танымы,[22] адамның жүру кинематикасы,[23] неврология,[24] EEG талдауы,[25] сөйлеуді талдау,[26] білім,[27] инвестициялау,[28] және эстетика.[29]

Әдебиеттер тізімі

  1. ^ а б c г. e Бейтс, Джон Э .; Шепард, Харви К. (1993-01-18). «Ақпараттың ауытқуын қолдана отырып, күрделілікті өлшеу». Физика хаттары. 172 (6): 416–425. дои:10.1016 / 0375-9601 (93) 90232-O. ISSN  0375-9601.
  2. ^ Бейтс, Джон Э. (2020-03-30). «Ақпараттың ауытқуын қолдана отырып, күрделілікті өлшеу: оқу құралы». Зерттеу қақпасы.
  3. ^ Атманспахер, Харальд (қыркүйек 1997). «Декарттық кесу, Гейзенберг кесу және күрделі түсінік». Әлемдік болашақ. 49 (3–4): 333–355. дои:10.1080/02604027.1997.9972639. ISSN  0260-4027.
  4. ^ Шализи, Cosma Rohilla (2006), Deisboeck, Thomas S.; Креш, Дж.Яша (ред.), «Кешенді жүйелер ғылымының әдістері мен әдістері: шолу», Биомедицинадағы кешенді жүйелер туралы ғылым, Биомедициналық инженерия тақырыптары, Халықаралық кітап сериясы, Springer US, 33–114 б., arXiv:nlin / 0307015, дои:10.1007/978-0-387-33532-2_2, ISBN  978-0-387-33532-2, S2CID  11972113
  5. ^ Вакербауэр, Ренате (1995-11-01). «Лоренц жүйесінің шу әсерінен тұрақтануы». Физикалық шолу E. 52 (5): 4745–4749. дои:10.1103 / PhysRevE.52.4745. PMID  9963970.
  6. ^ Сингх, Виджей П. (2013-01-10). Энтропия теориясы және оны қоршаған орта мен су инженериясында қолдану. Джон Вили және ұлдары. ISBN  978-1-118-42860-3.
  7. ^ Паррот, Лаель (2010-11-01). «Экологиялық күрделілікті өлшеу». Экологиялық көрсеткіштер. 10 (6): 1069–1076. дои:10.1016 / j.ecolind.2010.03.014. ISSN  1470-160X.
  8. ^ Ланж, Холгер (2006), «Экологиядағы уақыттық сериялы талдау», eLS, Американдық онкологиялық қоғам, дои:10.1038 / npg.els.0003276, ISBN  978-0-470-01590-2
  9. ^ Ван, Чаодзюнь; Чжао, Хонгруи (2019-04-18). «Экожүйенің тұрақтылығын дамыту үшін уақыттық серияларды қашықтықтан зондтауды талдау: уақытша ақпараттық энтропияны қолдану». Халықаралық қашықтықтан зондтау журналы. 40 (8): 2880–2894. дои:10.1080/01431161.2018.1533661. ISSN  0143-1161. S2CID  135003743.
  10. ^ Клемм, Отто; Ланге, Хольгер (1999-12-01). «Фихтелгебирге тауларындағы ауаның ластану тенденциялары, Бавария». Қоршаған ортаны қорғау және ластануын зерттеу. 6 (4): 193–199. дои:10.1007 / BF02987325. ISSN  1614-7499. PMID  19005662. S2CID  35043.
  11. ^ Ванг, Кан; Линь, Чжунбин (2018). «Әр түрлі кеңістіктегі масштабтағы өзенге ластанудың көзден тыс ластануының сипаттамасы». Су және қоршаған орта журналы. 32 (3): 453–465. дои:10.1111 / wej.12345. ISSN  1747-6593.
  12. ^ Лабат, Дэвид (2005-11-25). «Вейлеттті талдаудағы соңғы жетістіктер: 1 бөлім. Тұжырымдамаларға шолу». Гидрология журналы. 314 (1): 275–288. дои:10.1016 / j.jhydrol.2005.04.003. ISSN  0022-1694.
  13. ^ Пачепский, Яков; Губер, Андрей; Жак, Диедерик; Симунек, Джири; Ван Генухтен, Мартинус Тх .; Николсон, Томас; Кэйди, Ральф (2006-10-01). «Топырақтағы ағындардың имитациялық ағындарының мазмұны мен күрделілігі». Геодерма. Топырақ және онымен байланысты иерархиялық жүйелерге қолданылатын фракталдық геометрия - фракталдар, күрделілік және біртектілік. 134 (3): 253–266. дои:10.1016 / j.geoderma.2006.03.003. ISSN  0016-7061.
  14. ^ Кумар, Суджай V .; Дирмейер, Пол А .; Питерс-Лидард, Криста Д .; Биндлиш, Раджат; Болтен, Джон (2018-01-01). «Топырақтағы ылғалдың спутниктік алынуын ақпараттық теориялық бағалау». Қоршаған ортаны қашықтықтан зондтау. 204: 392–400. дои:10.1016 / j.rse.2017.10.016. hdl:2060/20180003069. ISSN  0034-4257. PMC  7340154. PMID  32636571.
  15. ^ Хаус, Майкл; Ланге, Холгер (2008). «Ағынды сулардың ағынды суын жіктеу: физикалық проблема?». География компасы. 2 (1): 235–254. дои:10.1111 / j.1749-8198.2007.00075.x. ISSN  1749-8198.
  16. ^ Лю, Мен; Лю, Донг; Лю, Ле (2013-09-01). «Көпөлшемді энтропияға негізделген жер асты суларының аймақтық тереңдігінің кешенділігін зерттеу: Қытайдағы Цзянсанцзян филиалының бюросының жағдайын зерттеу». Қоршаған орта туралы ғылымдар. 70 (1): 353–361. дои:10.1007 / s12665-012-2132-ж. ISSN  1866-6299. S2CID  128958458.
  17. ^ Син, Джинг; Мэннинг, Кэрол А. (сәуір 2005). «Әуе қозғалысын басқарудың күрделілігі мен автоматизациясы: әдебиеттерді шолу және талдау». Журналға сілтеме жасау қажет | журнал = (Көмектесіңдер)
  18. ^ Ванг, Кан; Ли, Ли (қараша 2008). «Ақпараттық өлшеулерді қолдану арқылы біртекті емес ағымдық үлгілерді сипаттау». Интеллектуалды желілер мен интеллектуалды жүйелер бойынша бірінші халықаралық конференция: 654–657. дои:10.1109 / ICINIS.2008.110. S2CID  8867649.
  19. ^ Джавахери Джавид, Мұхаммед Әли; Алгамди, Ваджи; Циммер, Роберт; ал-Рифаи, Мохаммад Маджид (2016), Би, Ясин; Капур, Суприя; Бхатиа, Рахул (ред.), «Тороидалық топологиядағы симметрияларды анықтаудың салыстырмалы талдауы» (PDF), Интеллектуалды жүйелер және қосымшалар: SAI Intelligent Systems конференциясының кеңейтілген және таңдалған нәтижелері (IntelliSys) 2015 ж, Есептеу интеллектіндегі зерттеулер, Springer International Publishing, 323–344 бет, дои:10.1007/978-3-319-33386-1_16, ISBN  978-3-319-33386-1
  20. ^ Ол, Кайцзян; Лу, Синцзин; Цзоу, Инчао; Keung Lai, Kin (2015-09-01). «Металл бағаларын қисық негізді көпсалалы әдіснамамен болжау». Ресурстар саясаты. 45: 144–150. дои:10.1016 / j.resourpol.2015.03.011. ISSN  0301-4207.
  21. ^ Ол, Кайцзян; Сю, Ян; Цзоу, Инчао; Tang, Ling (2015-05-01). «Curvelet негізіндегі әдісті қолдана отырып, электр энергиясына баға болжамдары». Physica A: Статистикалық механика және оның қолданылуы. 425: 1–9. дои:10.1016 / j.physa.2015.01.012. ISSN  0378-4371.
  22. ^ Ши Сюйцзянь; Sun Zhjiang; Ли Лонг; Xie Hongwei (2009). «Тасымалдау жүйелеріндегі адамның когнитивті күрделілігін талдау». Логистика. Іс жүргізу: 4361–4368. дои:10.1061/40996(330)637. ISBN  9780784409961.
  23. ^ Чжан, Шутао; Цянь, Джинву; Шен, Линьонг; Ву, Си; Ху, Сяу (қазан 2015). «Паркинсон ауруы бар пациенттердің жүрісінің күрделілігі мен жиілігін талдау». 2015 Халықаралық Биоэлектроника және Биоинформатика Симпозиумы (ISBB): 87–90. дои:10.1109 / ISBB.2015.7344930. ISBN  978-1-4673-6609-0. S2CID  2891655.
  24. ^ Ванг, Джисун; Но, Гю-Чжон; Чой, Бён-Мун; Ку, Сын-Ву; Джу, Пангю; Юнг, У-Сун; Ким, Сынхван; Ли, Хонсо (2017-07-13). «Кетамин және пропофол индуцирленген бейсаналық кезінде басылған жүйке күрделілігі». Неврология туралы хаттар. 653: 320–325. дои:10.1016 / j.neulet.2017.05.045. ISSN  0304-3940. PMID  28572032. S2CID  13767209.
  25. ^ Бола, Михал; Орловски, Павел; Пломека, Мартына; Марчевка, Артур (2019-01-30). «Профолды седация кезінде ЭЭГ сигналының әртүрлілігі: седативті, бірақ жауап беретіндердің жоғарылауы, седативті және жауап бермейтіндердің азаюы». bioRxiv: 444281. дои:10.1101/444281. S2CID  214726084.
  26. ^ Fan Yingle; У Чуанян; Ли И; Панг Куан (2006-12-15). «Флуктуацияның күрделілігін өлшеуді сөйлеуді соңғы нүктеде анықтауда қолдану туралы зерттеу». Аэроғарыштық медицина және медициналық техника. 19 (6). ISSN  1002-0837.
  27. ^ Дилгер, Александр (2012-01-01). «Эндогендік күрделілік, мамандандыру және жалпы білім беру». Көкжиекте. 20 (1): 49–53. дои:10.1108/10748121211202062. ISSN  1074-8121.
  28. ^ Иванюк, Вера Алексеевна (2015). «Инвестициялық портфельді басқарудың динамикалық стратегиясы». elibrary.ru.
  29. ^ Джавахери Джавид, Мұхаммед Әли (2019-11-30). Эстетикалық автоматтар: жасушалық автоматтардағы эстетикалық мінез-құлықты синтездеу және модельдеу (докторлық диссертация). Голдсмиттер, Лондон университеті. дои:10.25602 / алтын.00027681.