Eine nichtdeterministische Turingmaschine (NTM, NDTM) in der theoretischen Informatik ist eine Turingmaschine, die anstatt einer Übergangsfunktion eine Übergangsrelation verwendet.

Eine deterministische Turingmaschine (im Folgenden DTM) hat eine Übergangsfunktion, die für einen gegebenen Zustand und ein Symbol unter dem Lesekopf drei Dinge spezifiziert: das Symbol, das auf das Band geschrieben werden soll, die Richtung, in die der Lesekopf bewegt werden soll, und den Zustand, in den gewechselt werden soll.

Eine NTM unterscheidet sich von einer DTM dadurch, dass der aktuelle Zustand und das aktuelle Bandsymbol diese drei Dinge nicht mehr eindeutig festlegen, vielmehr gibt es mehrere mögliche Übergänge. Die NTM hat also für jede Eingabe nicht etwa einen eindeutigen Lauf, sondern viele verschiedene mögliche Läufe. (Das kann so interpretiert werden, dass sie zufällig einen der möglichen Läufe ausführt, oder aber so, dass sie alle möglichen Läufe parallel ausführt.) Sie akzeptiert die Eingabe, sofern es einen akzeptierenden Lauf gibt.

Da dieses Verhalten nach heutigem Kenntnisstand nicht ohne Weiteres realisierbar ist, handelt es sich um ein theoretisches Maschinenmodell. Trotzdem hat dieses Modell aus verschiedenen Gründen eine große Bedeutung für die theoretische Informatik, insbesondere für den Bereich der Komplexitätstheorie.

Eine nichtdeterministische Turingmaschine (kurz: NTM) ist ein 7-Tupel ${\displaystyle M=(Q,\Sigma ,\Gamma ,\delta ,q_{0},\square ,F)}$, wobei

Zustandsmenge

${\displaystyle Q\neq \emptyset }$ ist eine endliche nichtleere Menge

Eingabealphabet

${\displaystyle \Sigma \neq \emptyset }$ ist eine endliche nichtleere Menge

Bandalphabet

${\displaystyle \Gamma \neq \emptyset ,\Gamma \supset \Sigma }$ ist eine endliche nichtleere Menge

Übergangsrelation

${\displaystyle \delta \subseteq ((Q\setminus F)\times \Gamma )\times (Q\times \Gamma \times \{L,N,R\})}$

Startzustand

${\displaystyle q_{0}\in Q}$

Blank-Symbol

${\displaystyle \square \in \Gamma \setminus \Sigma }$

Menge der Endzustände

${\displaystyle F\subseteq Q}$

Eine Konfiguration der NTM ${\displaystyle M}$ ist ein 4-Tupel ${\displaystyle (u,q,a,v)}$, wobei ${\displaystyle u\in \Gamma ^{\star }}$, ${\displaystyle q\in Q}$, ${\displaystyle a\in \Gamma }$ und ${\displaystyle v\in \Gamma ^{\star }}$ (für eine Definition von ${\displaystyle \Gamma ^{\star }}$ siehe Kleenesche Hülle). Intuitiv bedeutet eine Konfiguration ${\displaystyle (u,q,a,v)}$, dass sich die NTM ${\displaystyle M}$ im Zustand ${\displaystyle q}$ befindet, das Feld, auf dem sich der Schreib/Lese-Kopf befindet, das Symbol ${\displaystyle a}$ enthält, das unendliche Band links vom Schreib/Lese-Kopf den Inhalt ${\displaystyle u}$ hat (wobei unendlich viele Blank-Symbole links von ${\displaystyle u}$ nicht mit einbezogen werden) und rechts vom S/L-Kopf den Inhalt ${\displaystyle v}$ aufweist (auch hier wird wieder nur der endliche Teil betrachtet, der alle Nicht-Blank-Symbole enthält). Die Menge der Konfigurationen von ${\displaystyle M}$ sei mit ${\displaystyle \operatorname {conf} (M)}$ bezeichnet. Wir definieren eine binäre Relation ${\displaystyle \Rightarrow _{M}}$ auf ${\displaystyle \operatorname {conf} (M)}$ (genannt Konfigurationsübergangsrelation) wie folgt:

Für zwei Konfigurationen ${\displaystyle c_{1}=(u_{1},q_{1},a_{1},v_{1})}$ und ${\displaystyle c_{2}=(u_{2},q_{2},a_{2},v_{2})}$ gilt ${\displaystyle c_{1}\Rightarrow _{M}c_{2}}$ genau dann, wenn eine der folgenden Bedingungen erfüllt ist (${\displaystyle \varepsilon }$ steht hier für das leere Wort):

• ${\displaystyle u_{1}=u_{2}}$, ${\displaystyle v_{1}=v_{2}}$ und ${\displaystyle (q_{1},a_{1},q_{2},a_{2},N)\in \delta }$ oder
• es gibt ein ${\displaystyle a\in \Gamma }$, so dass ${\displaystyle u_{1}=u_{2}=\varepsilon }$, ${\displaystyle av_{1}=v_{2}}$, ${\displaystyle a_{2}=\square }$ und ${\displaystyle (q_{1},a_{1},q_{2},a,L)\in \delta }$ oder
• es gibt ein ${\displaystyle a\in \Gamma }$, so dass ${\displaystyle u_{1}=u_{2}a_{2}}$, ${\displaystyle av_{1}=v_{2}}$ und ${\displaystyle (q_{1},a_{1},q_{2},a,L)\in \delta }$ oder
• es gibt ein ${\displaystyle a\in \Gamma }$, so dass ${\displaystyle u_{1}a=u_{2}}$, ${\displaystyle v_{1}=v_{2}=\varepsilon }$, ${\displaystyle a_{2}=\square }$ und ${\displaystyle (q_{1},a_{1},q_{2},a,R)\in \delta }$ oder
• es gibt ein ${\displaystyle a\in \Gamma }$, so dass ${\displaystyle u_{1}a=u_{2}}$, ${\displaystyle v_{1}=a_{2}v_{2}}$ und ${\displaystyle (q_{1},a_{1},q_{2},a,R)\in \delta }$.

Die Anfangskonfiguration von ${\displaystyle M}$ auf dem Eingabewort ${\displaystyle w\in \Sigma ^{\star }}$ ist die Konfiguration ${\displaystyle c_{0}=(\varepsilon ,q_{0},\square ,w)}$. Eine Konfiguration ${\displaystyle c=(u,q,a,v)}$ heißt Endkonfiguration, wenn ${\displaystyle q\in F}$. Ist ${\displaystyle c}$ eine Endkonfiguration, dann heißt sie akzeptierende Endkonfiguration, wenn ${\displaystyle a\neq \square }$, ansonsten heißt sie nicht-akzeptierende Endkonfiguration.

Ein endlicher Lauf von ${\displaystyle M}$ auf dem Eingabewort ${\displaystyle w}$ ist eine endliche Sequenz ${\displaystyle c_{0},c_{1},\ldots ,c_{n}}$ von Konfigurationen, wobei ${\displaystyle c_{0}}$ die Anfangskonfiguration auf ${\displaystyle w}$ ist, ${\displaystyle c_{n}}$ eine Endkonfiguration und für jede natürliche Zahl ${\displaystyle i}$ mit ${\displaystyle 1\leq i\leq n}$ gilt: ${\displaystyle c_{i-1}\Rightarrow _{M}c_{i}}$. Ein endlicher Lauf auf ${\displaystyle w}$ heißt akzeptierend, wenn ${\displaystyle c_{n}}$ akzeptierend ist, ansonsten heißt er nicht-akzeptierend.

Ein unendlicher Lauf von ${\displaystyle M}$ auf Eingabe ${\displaystyle w}$ ist eine unendliche Sequenz ${\displaystyle c_{0},c_{1},c_{2},\ldots }$ von Konfigurationen, wobei ${\displaystyle c_{0}}$ die Anfangskonfiguration auf ${\displaystyle w}$ ist und für jede natürliche Zahl ${\displaystyle i}$ mit ${\displaystyle 1\leq i}$ gilt: ${\displaystyle c_{i-1}\Rightarrow _{M}c_{i}}$.

Ein Entscheider ist eine NTM, die keinen unendlichen Lauf hat. Sei ${\displaystyle M}$ ein Entscheider. Die von ${\displaystyle M}$ akzeptierte Sprache ${\displaystyle L_{M}\subseteq \Sigma ^{\star }}$ ist definiert als ${\displaystyle L_{M}=\left\{w\in \Sigma ^{\star }\mid \right.}$ es gibt einen akzeptierenden Lauf von ${\displaystyle M}$ auf ${\displaystyle \left.w\right\}}$.

Da jede (deterministische) Übergangsfunktion einer DTM als Übergangsrelation einer NTM aufgefasst werden kann, sind NTM mindestens so mächtig wie DTM, da sie diese komplett enthalten. Umgekehrt kann auch jede von einer NTM erkannte Sprache von einer DTM erkannt werden. Die DTM simuliert alle Übergänge der NTMs, indem sie mehrere Kopien des simulierten Zustands erstellt, sofern mehrere Übergänge möglich sind; diese werden dann parallel simuliert. Kann z. B. ein Problem von einer NTM in polynomieller Zeit gelöst werden, so kann es von einer deterministischen Turingmaschine in exponentieller Zeit gelöst werden. Es gibt dann auch eine DTM, die das Problem mit polynomiellem Speicheraufwand löst (Satz von Savitch).

Die Bedeutung nichtdeterministischer Turingmaschinen erklärt sich wie folgt: Man betrachtet ein Problem nur dann als effizient lösbar, wenn es sich in Polynomialzeit entscheiden lässt. Auf deterministischen Turingmaschinen werden alle Probleme, für die dies gilt, der Klasse P zugerechnet. Es gibt jedoch eine recht große Anzahl von praktisch sehr bedeutsamen Problemen, für die noch nicht gezeigt werden konnte, ob sie in P liegen. Wie sich herausgestellt hat, lassen sich zahlreiche dieser Probleme auf einer nichtdeterministischen Turingmaschine in polynomieller Zeit entscheiden, sie liegen in NP. Die Tatsache, dass so viele wichtige, aber deterministisch bisher nicht effizient lösbare Probleme in dieser Klasse liegen, hat die Hoffnung genährt, durch eine Untersuchung des nichtdeterministischen Turingmaschinentyps Hinweise auf eine effizientere Lösung dieser Probleme zu erhalten. Ließe sich etwa ein allgemeines Verfahren finden, mit dem eine nichtdeterministische Turingmaschine durch eine deterministische in Polynomialzeit simuliert werden kann, so wäre für alle genannten Probleme gezeigt, dass sie in P liegen und damit effizient lösbar sind. Die Klassen P und NP wären dann identisch. Dies ist aber bis heute nicht gelungen. Die Fragestellung ist auch als P-NP-Problem bekannt.

Mittels nichtdeterministischer Turingmaschinen werden neben NP eine Reihe bedeutsamer Komplexitätsklassen definiert. Die Menge aller Zeitkomplexitätsklassen, die auf nichtdeterministische Turingmaschinen zurückgeführt werden, heißt NTIME. Analog ist NSPACE die Menge aller Raumkomplexitätsklassen dieses Maschinentyps.

• Deterministische Turingmaschine (DTM)
• Linear beschränkte Turingmaschine (LBA)
• Turingmaschine mit Zusatzeingabe
• Orakel-Turingmaschine

• John E. Hopcroft, Rajeev Motwani, Jeffrey D. Ullman: Einführung in die Automatentheorie, formale Sprachen und Komplexitätstheorie. 3., aktualisierte Auflage. Pearson Studium, München 2011, ISBN 978-3-86894-082-4, 8.4.4 Nichtdeterministische Turing-Maschinen (englisch: Introduction to Automata Theory, Languages, and Computation. 2007. Übersetzt von Sigrid Richter und Ingrid Tokar). 
• Ingo Wegener: Theoretische Informatik. Eine algorithmenorientierte Einführung. B.G. Teubner, Stuttgart, ISBN 3-519-02123-4, 3.2 Nichtdeterministische Turingmaschinen und die Klasse NP. 

• Dies ist eine freie, nicht-vollständige Übersetzung des Eintrags in der Englischen Wikipedia. Für Quellenangaben vgl. dort.