Nell'ambito della teoria dei giochi si dice equilibrio di Nash una situazione nella quale nessun agente razionale ha interesse a cambiare strategia; esso è il frutto della scelta, da parte di tutti i giocatori, della propria strategia dominante: l'equilibrio di Nash rappresenta quindi la situazione nella quale il gruppo si viene a trovare se ogni componente del gruppo fa ciò che è meglio per sé, cioè mira a massimizzare il proprio profitto a prescindere dalle scelte degli avversari.

Tuttavia, non è detto che l'equilibrio di Nash sia la soluzione migliore per tutti. Infatti, se è vero che in un equilibrio di Nash il singolo giocatore non può aumentare il proprio guadagno modificando solo la propria strategia, non è affatto detto che un gruppo di giocatori, o, al limite, tutti, non possano aumentare il proprio guadagno allontanandosi congiuntamente dall'equilibrio. È noto infatti che l'equilibrio di Nash può non essere un ottimo di Pareto, concetto che prende il nome dall'economista italiano Vilfredo Pareto (1848-1923) e che si realizza quando l'allocazione delle risorse è tale che non è possibile apportare miglioramenti al sistema, cioè non si può migliorare la condizione di un soggetto senza peggiorare la condizione di un altro. Analogamente, il risultato migliore per tutti può non essere un equilibrio.

Vilfredo Pareto

Raggiungere una situazione nella quale tutti ottengono il miglior risultato possibile se esso non è un equilibrio è un obiettivo conseguibile, ma solo a condizione che si instauri una cooperazione tra i giocatori, vale a dire che tutti agiscano non col fine di ottenere il miglior risultato per sé, ma di ottenere il miglior risultato per il gruppo, e quindi, indirettamente, ottenendo un risultato migliore anche per sé. In altre parole, deve trattarsi necessariamente di un gioco cooperativo.

Poiché tuttavia spesso la razionalità collettiva contrasta con quella individuale, è nella maggior parte dei casi necessario un accordo vincolante tra i giocatori (e quindi una istituzione che vigili su tale accordo) ed una sanzione nei confronti di chi non lo rispetta, riducendo quindi il profitto del singolo.

Il dilemma del prigioniero fornisce un valido spunto per confrontare i due concetti di equilibrio di Nash e ottimo di Pareto, e per comprenderne la differenza.

Il dilemma consiste in questo:

due prigionieri ("giocatori") sono reclusi in due celle non comunicanti; le possibili scelte per entrambi ("regole del gioco") sono parlare, accusando l'altro, o non parlare. Ai due viene detto che:

se solo uno dei due confessa, chi ha confessato evita la pena; l'altro viene però condannato a 7 anni di carcere;
se entrambi confessano, vengono entrambi condannati a 6 anni;
se nessuno dei due confessa, entrambi vengono condannati a 1 anno.

Questi risultati rappresentano il loro pay-off ("guadagno").

Se entrambi conoscono queste regole e non possono prendere accordi, la scelta che corrisponde all'equilibrio di Nash è di parlare, per entrambi, infischiandosene della solidarietà reciproca e dell'eventuale amicizia.

Tuttavia è evidente che ciascuno dei due poteva effettuare una scelta migliore, più conveniente per sé e per l'altro.

Da questo esempio si vede che la teoria di Nash non è sempre la soluzione migliore (o talvolta non è sufficientemente realistica).