Pravděpodobnostní dynamické systémy nachází uplatnění v široké škále oborů od techniky, dopravy přes ekonomii a medicínu až po elektronickou demokracii. Lze jimi modelovat například složitá průmyslová zařízení, dopravní toky, lymfatický systém končetiny, nebo třeba skupina výherních automatů známých jako jednorucí bandité. Často se setkáváme s případy, kdy je znám parametrizovaný model daného systému, ale jeho parametry nejsou přesně známy. Základní problém, který je pak nutno řešit, bývá odhadování těchto parametrů z pozorovaných (naměřených) dat - učení. V případě, že daný systém obsahuje také řídící vstupy, přidává se dále problém nalezení optimálních hodnot vstupů takových, aby řízený systém co nejlépe sledoval předem zvolený cíl. Velmi zajímavá, široce aplikovatelná, úloha vzniká kombinací dvou předchozích - učení a řízení současně. Zvolené hodnoty vstupních veličin mají pochopitelně vliv na chování systému, ale zároveň ovlivňují kvalitu učení. Vyvstává tak otázka, zda volit strategii řízení, která se vzhledem k právě dostupným znalostem jeví jako optimální, nebo zda dělat "úmyslné chyby", které za cenu krátkodobě horšího řízení přinesou lepší odhad parametrů systému a tím umožní dosáhnout celkově lepších výsledků.
Témata pro studenty
Plně pravděpodobnostní návrh dynamických rozhodovacích strategií tvoří dobře propracovaný teoretický základ učících se rozhodovovacích systémů s širokým rozsahem využitelnosti v technických, přírodních i společenských oborech. Tato využitelnost je silně omezena složitostí spjaté optimalizace. V uvažovaném případě je potřeba aproximovat řešení speciální verze dynamického programování. Tímto řešením je skalární funkce velmi mnoha proměnných, která je zadána implicitně nelineární integrálně-diferenční rovnicí. Řešení tohoto problému je možno rozdělit na témata několika doktorských prací s proměnným důrazem na funkcionální analýzu, aproximaci funkcí či využití heuristických metod vyvíjených v souvislosti s umělou inteligencí. V úvahu připadají i sofwarová, simulačně orientovaná řešení.
Hierarchické řízení a rozhodování spjaté se složitými procesy obsahuje vždy vrstvu, v níž jsou rozhodnutí prováděna člověkem "dispečerem". Navrhované téma navazuje na skupinou projektů, které mají za cíl vytvořit moderní počítačovou podporu takového rozhodování. Existující původní ucelená teorie pravděpodobnostního návrhu se ukázala jako velmi efektivní pro řešení této úlohy. Pro dotažení do široké aplikovatelnosti je však nutno řešit řadu teoretických, algoritmických a experimentálních a problémů, které jsou dobrým tématem cca 2-3 doktorských prací.