Warning

In caso di dubbi sulla correttezza del contenuto di questa traduzione, l’unico riferimento valido è la documentazione ufficiale in inglese. Per maggiori informazioni consultate le avvertenze.

Original:

Documentation/kernel-hacking/locking.rst

Translator:

Federico Vaga <federico.vaga@vaga.pv.it>

L’inaffidabile guida alla sincronizzazione

Author:

Rusty Russell

Introduzione

Benvenuto, alla notevole ed inaffidabile guida ai problemi di sincronizzazione (locking) nel kernel. Questo documento descrive il sistema di sincronizzazione nel kernel Linux 2.6.

Dato il largo utilizzo del multi-threading e della prelazione nel kernel Linux, chiunque voglia dilettarsi col kernel deve conoscere i concetti fondamentali della concorrenza e della sincronizzazione nei sistemi multi-processore.

Il problema con la concorrenza

(Saltatelo se sapete già cos’è una corsa critica).

In un normale programma, potete incrementare un contatore nel seguente modo:

contatore++;

Questo è quello che vi aspettereste che accada sempre:

Risultati attesi

Istanza 1

Istanza 2

leggi contatore (5)

aggiungi 1 (6)

scrivi contatore (6)

leggi contatore (6)

aggiungi 1 (7)

scrivi contatore (7)

Questo è quello che potrebbe succedere in realtà:

Possibile risultato

Istanza 1

Istanza 2

leggi contatore (5)

leggi contatore (5)

aggiungi 1 (6)

aggiungi 1 (6)

scrivi contatore (6)

scrivi contatore (6)

Corse critiche e sezioni critiche

Questa sovrapposizione, ovvero quando un risultato dipende dal tempo che intercorre fra processi diversi, è chiamata corsa critica. La porzione di codice che contiene questo problema è chiamata sezione critica. In particolar modo da quando Linux ha incominciato a girare su macchine multi-processore, le sezioni critiche sono diventate uno dei maggiori problemi di progettazione ed implementazione del kernel.

La prelazione può sortire gli stessi effetti, anche se c’è una sola CPU: interrompendo un processo nella sua sezione critica otterremo comunque la stessa corsa critica. In questo caso, il thread che si avvicenda nell’esecuzione potrebbe eseguire anch’esso la sezione critica.

La soluzione è quella di riconoscere quando avvengono questi accessi simultanei, ed utilizzare i lock per accertarsi che solo un’istanza per volta possa entrare nella sezione critica. Il kernel offre delle buone funzioni a questo scopo. E poi ci sono quelle meno buone, ma farò finta che non esistano.

Sincronizzazione nel kernel Linux

Se dovessi darvi un suggerimento sulla sincronizzazione: mantenetela semplice.

Siate riluttanti nell’introduzione di nuovi lock.

I due principali tipi di lock nel kernel: spinlock e mutex

Ci sono due tipi principali di lock nel kernel. Il tipo fondamentale è lo spinlock (include/asm/spinlock.h), un semplice lock che può essere trattenuto solo da un processo: se non si può trattenere lo spinlock, allora rimane in attesa attiva (in inglese spinning) finché non ci riesce. Gli spinlock sono molto piccoli e rapidi, possono essere utilizzati ovunque.

Il secondo tipo è il mutex (include/linux/mutex.h): è come uno spinlock, ma potreste bloccarvi trattenendolo. Se non potete trattenere un mutex il vostro processo si auto-sospenderà; verrà riattivato quando il mutex verrà rilasciato. Questo significa che il processore potrà occuparsi d’altro mentre il vostro processo è in attesa. Esistono molti casi in cui non potete permettervi di sospendere un processo (vedere Quali funzioni possono essere chiamate in modo sicuro dalle interruzioni?) e quindi dovrete utilizzare gli spinlock.

Nessuno di questi lock è ricorsivo: vedere Stallo: semplice ed avanzato

I lock e i kernel per sistemi monoprocessore

Per i kernel compilati senza CONFIG_SMP e senza CONFIG_PREEMPT gli spinlock non esistono. Questa è un’ottima scelta di progettazione: quando nessun altro processo può essere eseguito in simultanea, allora non c’è la necessità di avere un lock.

Se il kernel è compilato senza CONFIG_SMP ma con CONFIG_PREEMPT, allora gli spinlock disabilitano la prelazione; questo è sufficiente a prevenire le corse critiche. Nella maggior parte dei casi, possiamo considerare la prelazione equivalente ad un sistema multi-processore senza preoccuparci di trattarla indipendentemente.

Dovreste verificare sempre la sincronizzazione con le opzioni CONFIG_SMP e CONFIG_PREEMPT abilitate, anche quando non avete un sistema multi-processore, questo vi permetterà di identificare alcuni problemi di sincronizzazione.

Come vedremo di seguito, i mutex continuano ad esistere perché sono necessari per la sincronizzazione fra processi in contesto utente.

Sincronizzazione in contesto utente

Se avete una struttura dati che verrà utilizzata solo dal contesto utente, allora, per proteggerla, potete utilizzare un semplice mutex (include/linux/mutex.h). Questo è il caso più semplice: inizializzate il mutex; invocate mutex_lock_interruptible() per trattenerlo e mutex_unlock() per rilasciarlo. C’è anche mutex_lock() ma questa dovrebbe essere evitata perché non ritorna in caso di segnali.

Per esempio: net/netfilter/nf_sockopt.c permette la registrazione di nuove chiamate per setsockopt() e getsockopt() usando la funzione nf_register_sockopt(). La registrazione e la rimozione vengono eseguite solamente quando il modulo viene caricato o scaricato (e durante l’avvio del sistema, qui non abbiamo concorrenza), e la lista delle funzioni registrate viene consultata solamente quando setsockopt() o getsockopt() sono sconosciute al sistema. In questo caso nf_sockopt_mutex è perfetto allo scopo, in particolar modo visto che setsockopt e getsockopt potrebbero dormire.

Sincronizzazione fra il contesto utente e i softirq

Se un softirq condivide dati col contesto utente, avete due problemi. Primo, il contesto utente corrente potrebbe essere interroto da un softirq, e secondo, la sezione critica potrebbe essere eseguita da un altro processore. Questo è quando spin_lock_bh() (include/linux/spinlock.h) viene utilizzato. Questo disabilita i softirq sul processore e trattiene il lock. Invece, spin_unlock_bh() fa l’opposto. (Il suffisso ‘_bh’ è un residuo storico che fa riferimento al “Bottom Halves”, il vecchio nome delle interruzioni software. In un mondo perfetto questa funzione si chiamerebbe ‘spin_lock_softirq()’).

Da notare che in questo caso potete utilizzare anche spin_lock_irq() o spin_lock_irqsave(), queste fermano anche le interruzioni hardware: vedere Contesto di interruzione hardware.

Questo funziona alla perfezione anche sui sistemi monoprocessore: gli spinlock svaniscono e questa macro diventa semplicemente local_bh_disable() (include/linux/interrupt.h), la quale impedisce ai softirq d’essere eseguiti.

Sincronizzazione fra contesto utente e i tasklet

Questo caso è uguale al precedente, un tasklet viene eseguito da un softirq.

Sincronizzazione fra contesto utente e i timer

Anche questo caso è uguale al precedente, un timer viene eseguito da un softirq. Dal punto di vista della sincronizzazione, tasklet e timer sono identici.

Sincronizzazione fra tasklet e timer

Qualche volta un tasklet od un timer potrebbero condividere i dati con un altro tasklet o timer

Lo stesso tasklet/timer

Dato che un tasklet non viene mai eseguito contemporaneamente su due processori, non dovete preoccuparvi che sia rientrante (ovvero eseguito più volte in contemporanea), perfino su sistemi multi-processore.

Differenti tasklet/timer

Se un altro tasklet/timer vuole condividere dati col vostro tasklet o timer, allora avrete bisogno entrambe di spin_lock() e spin_unlock(). Qui spin_lock_bh() è inutile, siete già in un tasklet ed avete la garanzia che nessun altro verrà eseguito sullo stesso processore.

Sincronizzazione fra softirq

Spesso un softirq potrebbe condividere dati con se stesso o un tasklet/timer.

Lo stesso softirq

Lo stesso softirq può essere eseguito su un diverso processore: allo scopo di migliorare le prestazioni potete utilizzare dati riservati ad ogni processore (vedere Dati per processore). Se siete arrivati fino a questo punto nell’uso dei softirq, probabilmente tenete alla scalabilità delle prestazioni abbastanza da giustificarne la complessità aggiuntiva.

Dovete utilizzare spin_lock() e spin_unlock() per proteggere i dati condivisi.

Diversi Softirqs

Dovete utilizzare spin_lock() e spin_unlock() per proteggere i dati condivisi, che siano timer, tasklet, diversi softirq o lo stesso o altri softirq: uno qualsiasi di essi potrebbe essere in esecuzione su un diverso processore.

Contesto di interruzione hardware

Solitamente le interruzioni hardware comunicano con un tasklet o un softirq. Spesso questo si traduce nel mettere in coda qualcosa da fare che verrà preso in carico da un softirq.

Sincronizzazione fra interruzioni hardware e softirq/tasklet

Se un gestore di interruzioni hardware condivide dati con un softirq, allora avrete due preoccupazioni. Primo, il softirq può essere interrotto da un’interruzione hardware, e secondo, la sezione critica potrebbe essere eseguita da un’interruzione hardware su un processore diverso. Questo è il caso dove spin_lock_irq() viene utilizzato. Disabilita le interruzioni sul processore che l’esegue, poi trattiene il lock. spin_unlock_irq() fa l’opposto.

Il gestore d’interruzione hardware non ha bisogno di usare spin_lock_irq() perché i softirq non possono essere eseguiti quando il gestore d’interruzione hardware è in esecuzione: per questo si può usare spin_lock(), che è un po’ più veloce. L’unica eccezione è quando un altro gestore d’interruzioni hardware utilizza lo stesso lock: spin_lock_irq() impedirà a questo secondo gestore di interrompere quello in esecuzione.

Questo funziona alla perfezione anche sui sistemi monoprocessore: gli spinlock svaniscono e questa macro diventa semplicemente local_irq_disable() (include/asm/smp.h), la quale impedisce a softirq/tasklet/BH d’essere eseguiti.

spin_lock_irqsave() (include/linux/spinlock.h) è una variante che salva lo stato delle interruzioni in una variabile, questa verrà poi passata a spin_unlock_irqrestore(). Questo significa che lo stesso codice potrà essere utilizzato in un’interruzione hardware (dove le interruzioni sono già disabilitate) e in un softirq (dove la disabilitazione delle interruzioni è richiesta).

Da notare che i softirq (e quindi tasklet e timer) sono eseguiti al ritorno da un’interruzione hardware, quindi spin_lock_irq() interrompe anche questi. Tenuto conto di questo si può dire che spin_lock_irqsave() è la funzione di sincronizzazione più generica e potente.

Sincronizzazione fra due gestori d’interruzioni hardware

Condividere dati fra due gestori di interruzione hardware è molto raro, ma se succede, dovreste usare spin_lock_irqsave(): è una specificità dell’architettura il fatto che tutte le interruzioni vengano interrotte quando si eseguono di gestori di interruzioni.

Bigino della sincronizzazione

Pete Zaitcev ci offre il seguente riassunto:

  • Se siete in un contesto utente (una qualsiasi chiamata di sistema) e volete sincronizzarvi con altri processi, usate i mutex. Potete trattenere il mutex e dormire (copy_from_user( o kmalloc(x,GFP_KERNEL)).

  • Altrimenti (== i dati possono essere manipolati da un’interruzione) usate spin_lock_irqsave() e spin_unlock_irqrestore().

  • Evitate di trattenere uno spinlock per più di 5 righe di codice incluse le chiamate a funzione (ad eccezione di quell per l’accesso come readb()).

Tabella dei requisiti minimi

La tabella seguente illustra i requisiti minimi per la sincronizzazione fra diversi contesti. In alcuni casi, lo stesso contesto può essere eseguito solo da un processore per volta, quindi non ci sono requisiti per la sincronizzazione (per esempio, un thread può essere eseguito solo su un processore alla volta, ma se deve condividere dati con un altro thread, allora la sincronizzazione è necessaria).

Ricordatevi il suggerimento qui sopra: potete sempre usare spin_lock_irqsave(), che è un sovrainsieme di tutte le altre funzioni per spinlock.

.

IRQ Handler A

IRQ Handler B

Softirq A

Softirq B

Tasklet A

Tasklet B

Timer A

Timer B

User Context A

User Context B

IRQ Handler A

None

IRQ Handler B

SLIS

None

Softirq A

SLI

SLI

SL

Softirq B

SLI

SLI

SL

SL

Tasklet A

SLI

SLI

SL

SL

None

Tasklet B

SLI

SLI

SL

SL

SL

None

Timer A

SLI

SLI

SL

SL

SL

SL

None

Timer B

SLI

SLI

SL

SL

SL

SL

SL

None

User Context A

SLI

SLI

SLBH

SLBH

SLBH

SLBH

SLBH

SLBH

None

User Context B

SLI

SLI

SLBH

SLBH

SLBH

SLBH

SLBH

SLBH

MLI

None

Table: Tabella dei requisiti per la sincronizzazione

SLIS

spin_lock_irqsave

SLI

spin_lock_irq

SL

spin_lock

SLBH

spin_lock_bh

MLI

mutex_lock_interruptible

Table: Legenda per la tabella dei requisiti per la sincronizzazione

Le funzioni trylock

Ci sono funzioni che provano a trattenere un lock solo una volta e ritornano immediatamente comunicato il successo od il fallimento dell’operazione. Posso essere usate quando non serve accedere ai dati protetti dal lock quando qualche altro thread lo sta già facendo trattenendo il lock. Potrete acquisire il lock più tardi se vi serve accedere ai dati protetti da questo lock.

La funzione spin_trylock() non ritenta di acquisire il lock, se ci riesce al primo colpo ritorna un valore diverso da zero, altrimenti se fallisce ritorna 0. Questa funzione può essere utilizzata in un qualunque contesto, ma come spin_lock(): dovete disabilitare i contesti che potrebbero interrompervi e quindi trattenere lo spinlock.

La funzione mutex_trylock() invece di sospendere il vostro processo ritorna un valore diverso da zero se è possibile trattenere il lock al primo colpo, altrimenti se fallisce ritorna 0. Nonostante non dorma, questa funzione non può essere usata in modo sicuro in contesti di interruzione hardware o software.

Esempi più comuni

Guardiamo un semplice esempio: una memoria che associa nomi a numeri. La memoria tiene traccia di quanto spesso viene utilizzato ogni oggetto; quando è piena, l’oggetto meno usato viene eliminato.

Tutto in contesto utente

Nel primo esempio, supponiamo che tutte le operazioni avvengano in contesto utente (in soldoni, da una chiamata di sistema), quindi possiamo dormire. Questo significa che possiamo usare i mutex per proteggere la nostra memoria e tutti gli oggetti che contiene. Ecco il codice:

#include <linux/list.h>
#include <linux/slab.h>
#include <linux/string.h>
#include <linux/mutex.h>
#include <asm/errno.h>

struct object
{
        struct list_head list;
        int id;
        char name[32];
        int popularity;
};

/* Protects the cache, cache_num, and the objects within it */
static DEFINE_MUTEX(cache_lock);
static LIST_HEAD(cache);
static unsigned int cache_num = 0;
#define MAX_CACHE_SIZE 10

/* Must be holding cache_lock */
static struct object *__cache_find(int id)
{
        struct object *i;

        list_for_each_entry(i, &cache, list)
                if (i->id == id) {
                        i->popularity++;
                        return i;
                }
        return NULL;
}

/* Must be holding cache_lock */
static void __cache_delete(struct object *obj)
{
        BUG_ON(!obj);
        list_del(&obj->list);
        kfree(obj);
        cache_num--;
}

/* Must be holding cache_lock */
static void __cache_add(struct object *obj)
{
        list_add(&obj->list, &cache);
        if (++cache_num > MAX_CACHE_SIZE) {
                struct object *i, *outcast = NULL;
                list_for_each_entry(i, &cache, list) {
                        if (!outcast || i->popularity < outcast->popularity)
                                outcast = i;
                }
                __cache_delete(outcast);
        }
}

int cache_add(int id, const char *name)
{
        struct object *obj;

        if ((obj = kmalloc(sizeof(*obj), GFP_KERNEL)) == NULL)
                return -ENOMEM;

        strscpy(obj->name, name, sizeof(obj->name));
        obj->id = id;
        obj->popularity = 0;

        mutex_lock(&cache_lock);
        __cache_add(obj);
        mutex_unlock(&cache_lock);
        return 0;
}

void cache_delete(int id)
{
        mutex_lock(&cache_lock);
        __cache_delete(__cache_find(id));
        mutex_unlock(&cache_lock);
}

int cache_find(int id, char *name)
{
        struct object *obj;
        int ret = -ENOENT;

        mutex_lock(&cache_lock);
        obj = __cache_find(id);
        if (obj) {
                ret = 0;
                strcpy(name, obj->name);
        }
        mutex_unlock(&cache_lock);
        return ret;
}

Da notare che ci assicuriamo sempre di trattenere cache_lock quando aggiungiamo, rimuoviamo od ispezioniamo la memoria: sia la struttura della memoria che il suo contenuto sono protetti dal lock. Questo caso è semplice dato che copiamo i dati dall’utente e non permettiamo mai loro di accedere direttamente agli oggetti.

C’è una piccola ottimizzazione qui: nella funzione cache_add() impostiamo i campi dell’oggetto prima di acquisire il lock. Questo è sicuro perché nessun altro potrà accedervi finché non lo inseriremo nella memoria.

Accesso dal contesto utente

Ora consideriamo il caso in cui cache_find() può essere invocata dal contesto d’interruzione: sia hardware che software. Un esempio potrebbe essere un timer che elimina oggetti dalla memoria.

Qui di seguito troverete la modifica nel formato patch: le righe - sono quelle rimosse, mentre quelle + sono quelle aggiunte.

--- cache.c.usercontext 2003-12-09 13:58:54.000000000 +1100
+++ cache.c.interrupt   2003-12-09 14:07:49.000000000 +1100
@@ -12,7 +12,7 @@
         int popularity;
 };

-static DEFINE_MUTEX(cache_lock);
+static DEFINE_SPINLOCK(cache_lock);
 static LIST_HEAD(cache);
 static unsigned int cache_num = 0;
 #define MAX_CACHE_SIZE 10
@@ -55,6 +55,7 @@
 int cache_add(int id, const char *name)
 {
         struct object *obj;
+        unsigned long flags;

         if ((obj = kmalloc(sizeof(*obj), GFP_KERNEL)) == NULL)
                 return -ENOMEM;
@@ -63,30 +64,33 @@
         obj->id = id;
         obj->popularity = 0;

-        mutex_lock(&cache_lock);
+        spin_lock_irqsave(&cache_lock, flags);
         __cache_add(obj);
-        mutex_unlock(&cache_lock);
+        spin_unlock_irqrestore(&cache_lock, flags);
         return 0;
 }

 void cache_delete(int id)
 {
-        mutex_lock(&cache_lock);
+        unsigned long flags;
+
+        spin_lock_irqsave(&cache_lock, flags);
         __cache_delete(__cache_find(id));
-        mutex_unlock(&cache_lock);
+        spin_unlock_irqrestore(&cache_lock, flags);
 }

 int cache_find(int id, char *name)
 {
         struct object *obj;
         int ret = -ENOENT;
+        unsigned long flags;

-        mutex_lock(&cache_lock);
+        spin_lock_irqsave(&cache_lock, flags);
         obj = __cache_find(id);
         if (obj) {
                 ret = 0;
                 strcpy(name, obj->name);
         }
-        mutex_unlock(&cache_lock);
+        spin_unlock_irqrestore(&cache_lock, flags);
         return ret;
 }

Da notare che spin_lock_irqsave() disabiliterà le interruzioni se erano attive, altrimenti non farà niente (quando siamo già in un contesto d’interruzione); dunque queste funzioni possono essere chiamante in sicurezza da qualsiasi contesto.

Sfortunatamente, cache_add() invoca kmalloc() con l’opzione GFP_KERNEL che è permessa solo in contesto utente. Ho supposto che cache_add() venga chiamata dal contesto utente, altrimenti questa opzione deve diventare un parametro di cache_add().

Esporre gli oggetti al di fuori del file

Se i vostri oggetti contengono più informazioni, potrebbe non essere sufficiente copiare i dati avanti e indietro: per esempio, altre parti del codice potrebbero avere un puntatore a questi oggetti piuttosto che cercarli ogni volta. Questo introduce due problemi.

Il primo problema è che utilizziamo cache_lock per proteggere gli oggetti: dobbiamo renderlo dinamico così che il resto del codice possa usarlo. Questo rende la sincronizzazione più complicata dato che non avviene più in un unico posto.

Il secondo problema è il problema del ciclo di vita: se un’altra struttura mantiene un puntatore ad un oggetto, presumibilmente si aspetta che questo puntatore rimanga valido. Sfortunatamente, questo è garantito solo mentre si trattiene il lock, altrimenti qualcuno potrebbe chiamare cache_delete() o peggio, aggiungere un oggetto che riutilizza lo stesso indirizzo.

Dato che c’è un solo lock, non potete trattenerlo a vita: altrimenti nessun altro potrà eseguire il proprio lavoro.

La soluzione a questo problema è l’uso di un contatore di riferimenti: chiunque punti ad un oggetto deve incrementare il contatore, e decrementarlo quando il puntatore non viene più usato. Quando il contatore raggiunge lo zero significa che non è più usato e l’oggetto può essere rimosso.

Ecco il codice:

--- cache.c.interrupt   2003-12-09 14:25:43.000000000 +1100
+++ cache.c.refcnt  2003-12-09 14:33:05.000000000 +1100
@@ -7,6 +7,7 @@
 struct object
 {
         struct list_head list;
+        unsigned int refcnt;
         int id;
         char name[32];
         int popularity;
@@ -17,6 +18,35 @@
 static unsigned int cache_num = 0;
 #define MAX_CACHE_SIZE 10

+static void __object_put(struct object *obj)
+{
+        if (--obj->refcnt == 0)
+                kfree(obj);
+}
+
+static void __object_get(struct object *obj)
+{
+        obj->refcnt++;
+}
+
+void object_put(struct object *obj)
+{
+        unsigned long flags;
+
+        spin_lock_irqsave(&cache_lock, flags);
+        __object_put(obj);
+        spin_unlock_irqrestore(&cache_lock, flags);
+}
+
+void object_get(struct object *obj)
+{
+        unsigned long flags;
+
+        spin_lock_irqsave(&cache_lock, flags);
+        __object_get(obj);
+        spin_unlock_irqrestore(&cache_lock, flags);
+}
+
 /* Must be holding cache_lock */
 static struct object *__cache_find(int id)
 {
@@ -35,6 +65,7 @@
 {
         BUG_ON(!obj);
         list_del(&obj->list);
+        __object_put(obj);
         cache_num--;
 }

@@ -63,6 +94,7 @@
         strscpy(obj->name, name, sizeof(obj->name));
         obj->id = id;
         obj->popularity = 0;
+        obj->refcnt = 1; /* The cache holds a reference */

         spin_lock_irqsave(&cache_lock, flags);
         __cache_add(obj);
@@ -79,18 +111,15 @@
         spin_unlock_irqrestore(&cache_lock, flags);
 }

-int cache_find(int id, char *name)
+struct object *cache_find(int id)
 {
         struct object *obj;
-        int ret = -ENOENT;
         unsigned long flags;

         spin_lock_irqsave(&cache_lock, flags);
         obj = __cache_find(id);
-        if (obj) {
-                ret = 0;
-                strcpy(name, obj->name);
-        }
+        if (obj)
+                __object_get(obj);
         spin_unlock_irqrestore(&cache_lock, flags);
-        return ret;
+        return obj;
 }

Abbiamo incapsulato il contatore di riferimenti nelle tipiche funzioni di ‘get’ e ‘put’. Ora possiamo ritornare l’oggetto da cache_find() col vantaggio che l’utente può dormire trattenendo l’oggetto (per esempio, copy_to_user() per copiare il nome verso lo spazio utente).

Un altro punto da notare è che ho detto che il contatore dovrebbe incrementarsi per ogni puntatore ad un oggetto: quindi il contatore di riferimenti è 1 quando l’oggetto viene inserito nella memoria. In altre versione il framework non trattiene un riferimento per se, ma diventa più complicato.

Usare operazioni atomiche per il contatore di riferimenti

In sostanza, atomic_t viene usato come contatore di riferimenti. Ci sono un certo numbero di operazioni atomiche definite in include/asm/atomic.h: queste sono garantite come atomiche su qualsiasi processore del sistema, quindi non sono necessari i lock. In questo caso è più semplice rispetto all’uso degli spinlock, benché l’uso degli spinlock sia più elegante per casi non banali. Le funzioni atomic_inc() e atomic_dec_and_test() vengono usate al posto dei tipici operatori di incremento e decremento, e i lock non sono più necessari per proteggere il contatore stesso.

--- cache.c.refcnt  2003-12-09 15:00:35.000000000 +1100
+++ cache.c.refcnt-atomic   2003-12-11 15:49:42.000000000 +1100
@@ -7,7 +7,7 @@
 struct object
 {
         struct list_head list;
-        unsigned int refcnt;
+        atomic_t refcnt;
         int id;
         char name[32];
         int popularity;
@@ -18,33 +18,15 @@
 static unsigned int cache_num = 0;
 #define MAX_CACHE_SIZE 10

-static void __object_put(struct object *obj)
-{
-        if (--obj->refcnt == 0)
-                kfree(obj);
-}
-
-static void __object_get(struct object *obj)
-{
-        obj->refcnt++;
-}
-
 void object_put(struct object *obj)
 {
-        unsigned long flags;
-
-        spin_lock_irqsave(&cache_lock, flags);
-        __object_put(obj);
-        spin_unlock_irqrestore(&cache_lock, flags);
+        if (atomic_dec_and_test(&obj->refcnt))
+                kfree(obj);
 }

 void object_get(struct object *obj)
 {
-        unsigned long flags;
-
-        spin_lock_irqsave(&cache_lock, flags);
-        __object_get(obj);
-        spin_unlock_irqrestore(&cache_lock, flags);
+        atomic_inc(&obj->refcnt);
 }

 /* Must be holding cache_lock */
@@ -65,7 +47,7 @@
 {
         BUG_ON(!obj);
         list_del(&obj->list);
-        __object_put(obj);
+        object_put(obj);
         cache_num--;
 }

@@ -94,7 +76,7 @@
         strscpy(obj->name, name, sizeof(obj->name));
         obj->id = id;
         obj->popularity = 0;
-        obj->refcnt = 1; /* The cache holds a reference */
+        atomic_set(&obj->refcnt, 1); /* The cache holds a reference */

         spin_lock_irqsave(&cache_lock, flags);
         __cache_add(obj);
@@ -119,7 +101,7 @@
         spin_lock_irqsave(&cache_lock, flags);
         obj = __cache_find(id);
         if (obj)
-                __object_get(obj);
+                object_get(obj);
         spin_unlock_irqrestore(&cache_lock, flags);
         return obj;
 }

Proteggere l’oggetto stesso

In questo esempio, assumiamo che gli oggetti (ad eccezione del contatore di riferimenti) non cambino mai dopo la loro creazione. Se vogliamo permettere al nome di cambiare abbiamo tre possibilità:

  • Si può togliere static da cache_lock e dire agli utenti che devono trattenere il lock prima di modificare il nome di un oggetto.

  • Si può fornire una funzione cache_obj_rename() che prende il lock e cambia il nome per conto del chiamante; si dirà poi agli utenti di usare questa funzione.

  • Si può decidere che cache_lock protegge solo la memoria stessa, ed un altro lock è necessario per la protezione del nome.

Teoricamente, possiamo avere un lock per ogni campo e per ogni oggetto. In pratica, le varianti più comuni sono:

  • un lock che protegge l’infrastruttura (la lista cache di questo esempio) e gli oggetti. Questo è quello che abbiamo fatto finora.

  • un lock che protegge l’infrastruttura (inclusi i puntatori alla lista negli oggetti), e un lock nell’oggetto per proteggere il resto dell’oggetto stesso.

  • lock multipli per proteggere l’infrastruttura (per esempio un lock per ogni lista), possibilmente con un lock per oggetto.

Qui di seguito un’implementazione con “un lock per oggetto”:

--- cache.c.refcnt-atomic   2003-12-11 15:50:54.000000000 +1100
+++ cache.c.perobjectlock   2003-12-11 17:15:03.000000000 +1100
@@ -6,11 +6,17 @@

 struct object
 {
+        /* These two protected by cache_lock. */
         struct list_head list;
+        int popularity;
+
         atomic_t refcnt;
+
+        /* Doesn't change once created. */
         int id;
+
+        spinlock_t lock; /* Protects the name */
         char name[32];
-        int popularity;
 };

 static DEFINE_SPINLOCK(cache_lock);
@@ -77,6 +84,7 @@
         obj->id = id;
         obj->popularity = 0;
         atomic_set(&obj->refcnt, 1); /* The cache holds a reference */
+        spin_lock_init(&obj->lock);

         spin_lock_irqsave(&cache_lock, flags);
         __cache_add(obj);

Da notare che ho deciso che il contatore di popolarità dovesse essere protetto da cache_lock piuttosto che dal lock dell’oggetto; questo perché è logicamente parte dell’infrastruttura (come struct list_head nell’oggetto). In questo modo, in __cache_add(), non ho bisogno di trattenere il lock di ogni oggetto mentre si cerca il meno popolare.

Ho anche deciso che il campo id è immutabile, quindi non ho bisogno di trattenere il lock dell’oggetto quando si usa __cache_find() per leggere questo campo; il lock dell’oggetto è usato solo dal chiamante che vuole leggere o scrivere il campo name.

Inoltre, da notare che ho aggiunto un commento che descrive i dati che sono protetti dal lock. Questo è estremamente importante in quanto descrive il comportamento del codice, che altrimenti sarebbe di difficile comprensione leggendo solamente il codice. E come dice Alan Cox: “Lock data, not code”.

Problemi comuni

Stallo: semplice ed avanzato

Esiste un tipo di baco dove un pezzo di codice tenta di trattenere uno spinlock due volte: questo rimarrà in attesa attiva per sempre aspettando che il lock venga rilasciato (in Linux spinlocks, rwlocks e mutex non sono ricorsivi). Questo è facile da diagnosticare: non è uno di quei problemi che ti tengono sveglio 5 notti a parlare da solo.

Un caso un pochino più complesso; immaginate d’avere una spazio condiviso fra un softirq ed il contesto utente. Se usate spin_lock() per proteggerlo, il contesto utente potrebbe essere interrotto da un softirq mentre trattiene il lock, da qui il softirq rimarrà in attesa attiva provando ad acquisire il lock già trattenuto nel contesto utente.

Questi casi sono chiamati stalli (deadlock), e come mostrato qui sopra, può succedere anche con un solo processore (Ma non sui sistemi monoprocessore perché gli spinlock spariscano quando il kernel è compilato con CONFIG_SMP=n. Nonostante ciò, nel secondo caso avrete comunque una corruzione dei dati).

Questi casi sono facili da diagnosticare; sui sistemi multi-processore il supervisione (watchdog) o l’opzione di compilazione DEBUG_SPINLOCK (include/linux/spinlock.h) permettono di scovare immediatamente quando succedono.

Esiste un caso più complesso che è conosciuto come l’abbraccio della morte; questo coinvolge due o più lock. Diciamo che avete un vettore di hash in cui ogni elemento è uno spinlock a cui è associata una lista di elementi con lo stesso hash. In un gestore di interruzioni software, dovete modificare un oggetto e spostarlo su un altro hash; quindi dovrete trattenete lo spinlock del vecchio hash e di quello nuovo, quindi rimuovere l’oggetto dal vecchio ed inserirlo nel nuovo.

Qui abbiamo due problemi. Primo, se il vostro codice prova a spostare un oggetto all’interno della stessa lista, otterrete uno stallo visto che tenterà di trattenere lo stesso lock due volte. Secondo, se la stessa interruzione software su un altro processore sta tentando di spostare un altro oggetto nella direzione opposta, potrebbe accadere quanto segue:

CPU 1

CPU 2

Trattiene lock A -> OK

Trattiene lock B -> OK

Trattiene lock B -> attesa

Trattiene lock A -> attesa

Table: Conseguenze

Entrambe i processori rimarranno in attesa attiva sul lock per sempre, aspettando che l’altro lo rilasci. Sembra e puzza come un blocco totale.

Prevenire gli stalli

I libri di testo vi diranno che se trattenete i lock sempre nello stesso ordine non avrete mai un simile stallo. La pratica vi dirà che questo approccio non funziona all’ingrandirsi del sistema: quando creo un nuovo lock non ne capisco abbastanza del kernel per dire in quale dei 5000 lock si incastrerà.

I lock migliori sono quelli incapsulati: non vengono esposti nei file di intestazione, e non vengono mai trattenuti fuori dallo stesso file. Potete rileggere questo codice e vedere che non ci sarà mai uno stallo perché non tenterà mai di trattenere un altro lock quando lo ha già. Le persone che usano il vostro codice non devono nemmeno sapere che voi state usando dei lock.

Un classico problema deriva dall’uso di callback e di hook: se li chiamate mentre trattenete un lock, rischiate uno stallo o un abbraccio della morte (chi lo sa cosa farà una callback?).

Ossessiva prevenzione degli stalli

Gli stalli sono un problema, ma non così terribile come la corruzione dei dati. Un pezzo di codice trattiene un lock di lettura, cerca in una lista, fallisce nel trovare quello che vuole, quindi rilascia il lock di lettura, trattiene un lock di scrittura ed inserisce un oggetto; questo genere di codice presenta una corsa critica.

corsa fra temporizzatori: un passatempo del kernel

I temporizzatori potrebbero avere dei problemi con le corse critiche. Considerate una collezione di oggetti (liste, hash, eccetera) dove ogni oggetto ha un temporizzatore che sta per distruggerlo.

Se volete eliminare l’intera collezione (diciamo quando rimuovete un modulo), potreste fare come segue:

/* THIS CODE BAD BAD BAD BAD: IF IT WAS ANY WORSE IT WOULD USE
   HUNGARIAN NOTATION */
spin_lock_bh(&list_lock);

while (list) {
        struct foo *next = list->next;
        del_timer(&list->timer);
        kfree(list);
        list = next;
}

spin_unlock_bh(&list_lock);

Primo o poi, questo esploderà su un sistema multiprocessore perché un temporizzatore potrebbe essere già partiro prima di spin_lock_bh(), e prenderà il lock solo dopo spin_unlock_bh(), e cercherà di eliminare il suo oggetto (che però è già stato eliminato).

Questo può essere evitato controllando il valore di ritorno di del_timer(): se ritorna 1, il temporizzatore è stato già rimosso. Se 0, significa (in questo caso) che il temporizzatore è in esecuzione, quindi possiamo fare come segue:

retry:
        spin_lock_bh(&list_lock);

        while (list) {
                struct foo *next = list->next;
                if (!del_timer(&list->timer)) {
                        /* Give timer a chance to delete this */
                        spin_unlock_bh(&list_lock);
                        goto retry;
                }
                kfree(list);
                list = next;
        }

        spin_unlock_bh(&list_lock);

Un altro problema è l’eliminazione dei temporizzatori che si riavviano da soli (chiamando add_timer() alla fine della loro esecuzione). Dato che questo è un problema abbastanza comune con una propensione alle corse critiche, dovreste usare del_timer_sync() (include/linux/timer.h) per gestire questo caso. Questa ritorna il numero di volte che il temporizzatore è stato interrotto prima che fosse in grado di fermarlo senza che si riavviasse.

Velocità della sincronizzazione

Ci sono tre cose importanti da tenere in considerazione quando si valuta la velocità d’esecuzione di un pezzo di codice che necessita di sincronizzazione. La prima è la concorrenza: quante cose rimangono in attesa mentre qualcuno trattiene un lock. La seconda è il tempo necessario per acquisire (senza contese) e rilasciare un lock. La terza è di usare meno lock o di più furbi. Immagino che i lock vengano usati regolarmente, altrimenti, non sareste interessati all’efficienza.

La concorrenza dipende da quanto a lungo un lock è trattenuto: dovreste trattenere un lock solo il tempo minimo necessario ma non un istante in più. Nella memoria dell’esempio precedente, creiamo gli oggetti senza trattenere il lock, poi acquisiamo il lock quando siamo pronti per inserirlo nella lista.

Il tempo di acquisizione di un lock dipende da quanto danno fa l’operazione sulla pipeline (ovvero stalli della pipeline) e quant’è probabile che il processore corrente sia stato anche l’ultimo ad acquisire il lock (in pratica, il lock è nella memoria cache del processore corrente?): su sistemi multi-processore questa probabilità precipita rapidamente. Consideriamo un processore Intel Pentium III a 700Mhz: questo esegue un’istruzione in 0.7ns, un incremento atomico richiede 58ns, acquisire un lock che è nella memoria cache del processore richiede 160ns, e un trasferimento dalla memoria cache di un altro processore richiede altri 170/360ns (Leggetevi l’articolo di Paul McKenney’s Linux Journal RCU article).

Questi due obiettivi sono in conflitto: trattenere un lock per il minor tempo possibile potrebbe richiedere la divisione in più lock per diverse parti (come nel nostro ultimo esempio con un lock per ogni oggetto), ma questo aumenta il numero di acquisizioni di lock, ed il risultato spesso è che tutto è più lento che con un singolo lock. Questo è un altro argomento in favore della semplicità quando si parla di sincronizzazione.

Il terzo punto è discusso di seguito: ci sono alcune tecniche per ridurre il numero di sincronizzazioni che devono essere fatte.

Read/Write Lock Variants

Sia gli spinlock che i mutex hanno una variante per la lettura/scrittura (read/write): rwlock_t e struct rw_semaphore. Queste dividono gli utenti in due categorie: i lettori e gli scrittori. Se state solo leggendo i dati, potete acquisire il lock di lettura, ma per scrivere avrete bisogno del lock di scrittura. Molti possono trattenere il lock di lettura, ma solo uno scrittore alla volta può trattenere quello di scrittura.

Se il vostro codice si divide chiaramente in codice per lettori e codice per scrittori (come nel nostro esempio), e il lock dei lettori viene trattenuto per molto tempo, allora l’uso di questo tipo di lock può aiutare. Questi sono leggermente più lenti rispetto alla loro versione normale, quindi nella pratica l’uso di rwlock_t non ne vale la pena.

Evitare i lock: Read Copy Update

Esiste un metodo di sincronizzazione per letture e scritture detto Read Copy Update. Con l’uso della tecnica RCU, i lettori possono scordarsi completamente di trattenere i lock; dato che nel nostro esempio ci aspettiamo d’avere più lettore che scrittori (altrimenti questa memoria sarebbe uno spreco) possiamo dire che questo meccanismo permette un’ottimizzazione.

Come facciamo a sbarazzarci dei lock di lettura? Sbarazzarsi dei lock di lettura significa che uno scrittore potrebbe cambiare la lista sotto al naso dei lettori. Questo è abbastanza semplice: possiamo leggere una lista concatenata se lo scrittore aggiunge elementi alla fine e con certe precauzioni. Per esempio, aggiungendo new ad una lista concatenata chiamata list:

new->next = list->next;
wmb();
list->next = new;

La funzione wmb() è una barriera di sincronizzazione delle scritture. Questa garantisce che la prima operazione (impostare l’elemento next del nuovo elemento) venga completata e vista da tutti i processori prima che venga eseguita la seconda operazione (che sarebbe quella di mettere il nuovo elemento nella lista). Questo è importante perché i moderni compilatori ed i moderni processori possono, entrambe, riordinare le istruzioni se non vengono istruiti altrimenti: vogliamo che i lettori non vedano completamente il nuovo elemento; oppure che lo vedano correttamente e quindi il puntatore next deve puntare al resto della lista.

Fortunatamente, c’è una funzione che fa questa operazione sulle liste struct list_head: list_add_rcu() (include/linux/list.h).

Rimuovere un elemento dalla lista è anche più facile: sostituiamo il puntatore al vecchio elemento con quello del suo successore, e i lettori vedranno l’elemento o lo salteranno.

list->next = old->next;

La funzione list_del_rcu() (include/linux/list.h) fa esattamente questo (la versione normale corrompe il vecchio oggetto, e non vogliamo che accada).

Anche i lettori devono stare attenti: alcuni processori potrebbero leggere attraverso il puntatore next il contenuto dell’elemento successivo troppo presto, ma non accorgersi che il contenuto caricato è sbagliato quando il puntatore next viene modificato alla loro spalle. Ancora una volta c’è una funzione che viene in vostro aiuto list_for_each_entry_rcu() (include/linux/list.h). Ovviamente, gli scrittori possono usare list_for_each_entry() dato che non ci possono essere due scrittori in contemporanea.

Il nostro ultimo dilemma è il seguente: quando possiamo realmente distruggere l’elemento rimosso? Ricordate, un lettore potrebbe aver avuto accesso a questo elemento proprio ora: se eliminiamo questo elemento ed il puntatore next cambia, il lettore salterà direttamente nella spazzatura e scoppierà. Dobbiamo aspettare finché tutti i lettori che stanno attraversando la lista abbiano finito. Utilizziamo call_rcu() per registrare una funzione di richiamo che distrugga l’oggetto quando tutti i lettori correnti hanno terminato. In alternative, potrebbe essere usata la funzione synchronize_rcu() che blocca l’esecuzione finché tutti i lettori non terminano di ispezionare la lista.

Ma come fa l’RCU a sapere quando i lettori sono finiti? Il meccanismo è il seguente: innanzi tutto i lettori accedono alla lista solo fra la coppia rcu_read_lock()/rcu_read_unlock() che disabilita la prelazione così che i lettori non vengano sospesi mentre stanno leggendo la lista.

Poi, l’RCU aspetta finché tutti i processori non abbiano dormito almeno una volta; a questo punto, dato che i lettori non possono dormire, possiamo dedurre che un qualsiasi lettore che abbia consultato la lista durante la rimozione abbia già terminato, quindi la callback viene eseguita. Il vero codice RCU è un po’ più ottimizzato di così, ma questa è l’idea di fondo.

--- cache.c.perobjectlock   2003-12-11 17:15:03.000000000 +1100
+++ cache.c.rcupdate    2003-12-11 17:55:14.000000000 +1100
@@ -1,15 +1,18 @@
 #include <linux/list.h>
 #include <linux/slab.h>
 #include <linux/string.h>
+#include <linux/rcupdate.h>
 #include <linux/mutex.h>
 #include <asm/errno.h>

 struct object
 {
-        /* These two protected by cache_lock. */
+        /* This is protected by RCU */
         struct list_head list;
         int popularity;

+        struct rcu_head rcu;
+
         atomic_t refcnt;

         /* Doesn't change once created. */
@@ -40,7 +43,7 @@
 {
         struct object *i;

-        list_for_each_entry(i, &cache, list) {
+        list_for_each_entry_rcu(i, &cache, list) {
                 if (i->id == id) {
                         i->popularity++;
                         return i;
@@ -49,19 +52,25 @@
         return NULL;
 }

+/* Final discard done once we know no readers are looking. */
+static void cache_delete_rcu(void *arg)
+{
+        object_put(arg);
+}
+
 /* Must be holding cache_lock */
 static void __cache_delete(struct object *obj)
 {
         BUG_ON(!obj);
-        list_del(&obj->list);
-        object_put(obj);
+        list_del_rcu(&obj->list);
         cache_num--;
+        call_rcu(&obj->rcu, cache_delete_rcu);
 }

 /* Must be holding cache_lock */
 static void __cache_add(struct object *obj)
 {
-        list_add(&obj->list, &cache);
+        list_add_rcu(&obj->list, &cache);
         if (++cache_num > MAX_CACHE_SIZE) {
                 struct object *i, *outcast = NULL;
                 list_for_each_entry(i, &cache, list) {
@@ -104,12 +114,11 @@
 struct object *cache_find(int id)
 {
         struct object *obj;
-        unsigned long flags;

-        spin_lock_irqsave(&cache_lock, flags);
+        rcu_read_lock();
         obj = __cache_find(id);
         if (obj)
                 object_get(obj);
-        spin_unlock_irqrestore(&cache_lock, flags);
+        rcu_read_unlock();
         return obj;
 }

Da notare che i lettori modificano il campo popularity nella funzione __cache_find(), e ora non trattiene alcun lock. Una soluzione potrebbe essere quella di rendere la variabile atomic_t, ma per l’uso che ne abbiamo fatto qui, non ci interessano queste corse critiche perché un risultato approssimativo è comunque accettabile, quindi non l’ho cambiato.

Il risultato è che la funzione cache_find() non ha bisogno di alcuna sincronizzazione con le altre funzioni, quindi è veloce su un sistema multi-processore tanto quanto lo sarebbe su un sistema mono-processore.

Esiste un’ulteriore ottimizzazione possibile: vi ricordate il codice originale della nostra memoria dove non c’erano contatori di riferimenti e il chiamante semplicemente tratteneva il lock prima di accedere ad un oggetto? Questo è ancora possibile: se trattenete un lock nessuno potrà cancellare l’oggetto, quindi non avete bisogno di incrementare e decrementare il contatore di riferimenti.

Ora, dato che il ‘lock di lettura’ di un RCU non fa altro che disabilitare la prelazione, un chiamante che ha sempre la prelazione disabilitata fra le chiamate cache_find() e object_put() non necessita di incrementare e decrementare il contatore di riferimenti. Potremmo esporre la funzione __cache_find() dichiarandola non-static, e quel chiamante potrebbe usare direttamente questa funzione.

Il beneficio qui sta nel fatto che il contatore di riferimenti no viene scritto: l’oggetto non viene alterato in alcun modo e quindi diventa molto più veloce su sistemi molti-processore grazie alla loro memoria cache.

Dati per processore

Un’altra tecnica comunemente usata per evitare la sincronizzazione è quella di duplicare le informazioni per ogni processore. Per esempio, se volete avere un contatore di qualcosa, potreste utilizzare uno spinlock ed un singolo contatore. Facile e pulito.

Se questo dovesse essere troppo lento (solitamente non lo è, ma se avete dimostrato che lo è devvero), potreste usare un contatore per ogni processore e quindi non sarebbe più necessaria la mutua esclusione. Vedere DEFINE_PER_CPU(), get_cpu_var() e put_cpu_var() (include/linux/percpu.h).

Il tipo di dato local_t, la funzione cpu_local_inc() e tutte le altre funzioni associate, sono di particolare utilità per semplici contatori per-processore; su alcune architetture sono anche più efficienti (include/asm/local.h).

Da notare che non esiste un modo facile ed affidabile per ottenere il valore di un simile contatore senza introdurre altri lock. In alcuni casi questo non è un problema.

Dati che sono usati prevalentemente dai gestori d’interruzioni

Se i dati vengono utilizzati sempre dallo stesso gestore d’interruzioni, allora i lock non vi servono per niente: il kernel già vi garantisce che il gestore d’interruzione non verrà eseguito in contemporanea su diversi processori.

Manfred Spraul fa notare che potreste comunque comportarvi così anche se i dati vengono occasionalmente utilizzati da un contesto utente o da un’interruzione software. Il gestore d’interruzione non utilizza alcun lock, e tutti gli altri accessi verranno fatti così:

spin_lock(&lock);
disable_irq(irq);
...
enable_irq(irq);
spin_unlock(&lock);

La funzione disable_irq() impedisce al gestore d’interruzioni d’essere eseguito (e aspetta che finisca nel caso fosse in esecuzione su un altro processore). Lo spinlock, invece, previene accessi simultanei. Naturalmente, questo è più lento della semplice chiamata spin_lock_irq(), quindi ha senso solo se questo genere di accesso è estremamente raro.

Quali funzioni possono essere chiamate in modo sicuro dalle interruzioni?

Molte funzioni del kernel dormono (in sostanza, chiamano schedule()) direttamente od indirettamente: non potete chiamarle se trattenere uno spinlock o avete la prelazione disabilitata, mai. Questo significa che dovete necessariamente essere nel contesto utente: chiamarle da un contesto d’interruzione è illegale.

Alcune funzioni che dormono

Le più comuni sono elencate qui di seguito, ma solitamente dovete leggere il codice per scoprire se altre chiamate sono sicure. Se chiunque altro le chiami dorme, allora dovreste poter dormire anche voi. In particolar modo, le funzioni di registrazione e deregistrazione solitamente si aspettano d’essere chiamante da un contesto utente e quindi che possono dormire.

  • Accessi allo spazio utente:

  • kmalloc(GFP_KERNEL) <kmalloc>`

  • mutex_lock_interruptible() and mutex_lock()

    C’è anche mutex_trylock() che però non dorme. Comunque, non deve essere usata in un contesto d’interruzione dato che la sua implementazione non è sicura in quel contesto. Anche mutex_unlock() non dorme mai. Non può comunque essere usata in un contesto d’interruzione perché un mutex deve essere rilasciato dallo stesso processo che l’ha acquisito.

Alcune funzioni che non dormono

Alcune funzioni possono essere chiamate tranquillamente da qualsiasi contesto, o trattenendo un qualsiasi lock.

Riferimento per l’API dei Mutex

mutex_init

mutex_init (mutex)

initialize the mutex

Parameters

mutex

the mutex to be initialized

Description

Initialize the mutex to unlocked state.

It is not allowed to initialize an already locked mutex.

bool mutex_is_locked(struct mutex *lock)

is the mutex locked

Parameters

struct mutex *lock

the mutex to be queried

Description

Returns true if the mutex is locked, false if unlocked.

void mutex_lock(struct mutex *lock)

acquire the mutex

Parameters

struct mutex *lock

the mutex to be acquired

Description

Lock the mutex exclusively for this task. If the mutex is not available right now, it will sleep until it can get it.

The mutex must later on be released by the same task that acquired it. Recursive locking is not allowed. The task may not exit without first unlocking the mutex. Also, kernel memory where the mutex resides must not be freed with the mutex still locked. The mutex must first be initialized (or statically defined) before it can be locked. memset()-ing the mutex to 0 is not allowed.

(The CONFIG_DEBUG_MUTEXES .config option turns on debugging checks that will enforce the restrictions and will also do deadlock debugging)

This function is similar to (but not equivalent to) down().

void mutex_unlock(struct mutex *lock)

release the mutex

Parameters

struct mutex *lock

the mutex to be released

Description

Unlock a mutex that has been locked by this task previously.

This function must not be used in interrupt context. Unlocking of a not locked mutex is not allowed.

This function is similar to (but not equivalent to) up().

void ww_mutex_unlock(struct ww_mutex *lock)

release the w/w mutex

Parameters

struct ww_mutex *lock

the mutex to be released

Description

Unlock a mutex that has been locked by this task previously with any of the ww_mutex_lock* functions (with or without an acquire context). It is forbidden to release the locks after releasing the acquire context.

This function must not be used in interrupt context. Unlocking of a unlocked mutex is not allowed.

int ww_mutex_trylock(struct ww_mutex *ww, struct ww_acquire_ctx *ww_ctx)

tries to acquire the w/w mutex with optional acquire context

Parameters

struct ww_mutex *ww

mutex to lock

struct ww_acquire_ctx *ww_ctx

optional w/w acquire context

Description

Trylocks a mutex with the optional acquire context; no deadlock detection is possible. Returns 1 if the mutex has been acquired successfully, 0 otherwise.

Unlike ww_mutex_lock, no deadlock handling is performed. However, if a ctx is specified, -EALREADY handling may happen in calls to ww_mutex_trylock.

A mutex acquired with this function must be released with ww_mutex_unlock.

int mutex_lock_interruptible(struct mutex *lock)

Acquire the mutex, interruptible by signals.

Parameters

struct mutex *lock

The mutex to be acquired.

Description

Lock the mutex like mutex_lock(). If a signal is delivered while the process is sleeping, this function will return without acquiring the mutex.

Context

Process context.

Return

0 if the lock was successfully acquired or -EINTR if a signal arrived.

int mutex_lock_killable(struct mutex *lock)

Acquire the mutex, interruptible by fatal signals.

Parameters

struct mutex *lock

The mutex to be acquired.

Description

Lock the mutex like mutex_lock(). If a signal which will be fatal to the current process is delivered while the process is sleeping, this function will return without acquiring the mutex.

Context

Process context.

Return

0 if the lock was successfully acquired or -EINTR if a fatal signal arrived.

void mutex_lock_io(struct mutex *lock)

Acquire the mutex and mark the process as waiting for I/O

Parameters

struct mutex *lock

The mutex to be acquired.

Description

Lock the mutex like mutex_lock(). While the task is waiting for this mutex, it will be accounted as being in the IO wait state by the scheduler.

Context

Process context.

int mutex_trylock(struct mutex *lock)

try to acquire the mutex, without waiting

Parameters

struct mutex *lock

the mutex to be acquired

Description

Try to acquire the mutex atomically. Returns 1 if the mutex has been acquired successfully, and 0 on contention.

This function must not be used in interrupt context. The mutex must be released by the same task that acquired it.

NOTE

this function follows the spin_trylock() convention, so it is negated from the down_trylock() return values! Be careful about this when converting semaphore users to mutexes.

int atomic_dec_and_mutex_lock(atomic_t *cnt, struct mutex *lock)

return holding mutex if we dec to 0

Parameters

atomic_t *cnt

the atomic which we are to dec

struct mutex *lock

the mutex to return holding if we dec to 0

Description

return true and hold lock if we dec to 0, return false otherwise

Riferimento per l’API dei Futex

struct futex_hash_bucket *futex_hash(union futex_key *key)

Return the hash bucket in the global hash

Parameters

union futex_key *key

Pointer to the futex key for which the hash is calculated

Description

We hash on the keys returned from get_futex_key (see below) and return the corresponding hash bucket in the global hash.

struct hrtimer_sleeper *futex_setup_timer(ktime_t *time, struct hrtimer_sleeper *timeout, int flags, u64 range_ns)

set up the sleeping hrtimer.

Parameters

ktime_t *time

ptr to the given timeout value

struct hrtimer_sleeper *timeout

the hrtimer_sleeper structure to be set up

int flags

futex flags

u64 range_ns

optional range in ns

Return

Initialized hrtimer_sleeper structure or NULL if no timeout

value given

int get_futex_key(u32 __user *uaddr, bool fshared, union futex_key *key, enum futex_access rw)

Get parameters which are the keys for a futex

Parameters

u32 __user *uaddr

virtual address of the futex

bool fshared

false for a PROCESS_PRIVATE futex, true for PROCESS_SHARED

union futex_key *key

address where result is stored.

enum futex_access rw

mapping needs to be read/write (values: FUTEX_READ, FUTEX_WRITE)

Return

a negative error code or 0

Description

The key words are stored in key on success.

For shared mappings (when fshared), the key is:

( inode->i_sequence, page->index, offset_within_page )

[ also see get_inode_sequence_number() ]

For private mappings (or when !fshared), the key is:

( current->mm, address, 0 )

This allows (cross process, where applicable) identification of the futex without keeping the page pinned for the duration of the FUTEX_WAIT.

lock_page() might sleep, the caller should not hold a spinlock.

int fault_in_user_writeable(u32 __user *uaddr)

Fault in user address and verify RW access

Parameters

u32 __user *uaddr

pointer to faulting user space address

Description

Slow path to fixup the fault we just took in the atomic write access to uaddr.

We have no generic implementation of a non-destructive write to the user address. We know that we faulted in the atomic pagefault disabled section so we can as well avoid the #PF overhead by calling get_user_pages() right away.

struct futex_q *futex_top_waiter(struct futex_hash_bucket *hb, union futex_key *key)

Return the highest priority waiter on a futex

Parameters

struct futex_hash_bucket *hb

the hash bucket the futex_q’s reside in

union futex_key *key

the futex key (to distinguish it from other futex futex_q’s)

Description

Must be called with the hb lock held.

void wait_for_owner_exiting(int ret, struct task_struct *exiting)

Block until the owner has exited

Parameters

int ret

owner’s current futex lock status

struct task_struct *exiting

Pointer to the exiting task

Description

Caller must hold a refcount on exiting.

void __futex_unqueue(struct futex_q *q)

Remove the futex_q from its futex_hash_bucket

Parameters

struct futex_q *q

The futex_q to unqueue

Description

The q->lock_ptr must not be NULL and must be held by the caller.

int futex_unqueue(struct futex_q *q)

Remove the futex_q from its futex_hash_bucket

Parameters

struct futex_q *q

The futex_q to unqueue

Description

The q->lock_ptr must not be held by the caller. A call to futex_unqueue() must be paired with exactly one earlier call to futex_queue().

Return

  • 1 - if the futex_q was still queued (and we removed unqueued it);

  • 0 - if the futex_q was already removed by the waking thread

void futex_exit_recursive(struct task_struct *tsk)

Set the tasks futex state to FUTEX_STATE_DEAD

Parameters

struct task_struct *tsk

task to set the state on

Description

Set the futex exit state of the task lockless. The futex waiter code observes that state when a task is exiting and loops until the task has actually finished the futex cleanup. The worst case for this is that the waiter runs through the wait loop until the state becomes visible.

This is called from the recursive fault handling path in make_task_dead().

This is best effort. Either the futex exit code has run already or not. If the OWNER_DIED bit has been set on the futex then the waiter can take it over. If not, the problem is pushed back to user space. If the futex exit code did not run yet, then an already queued waiter might block forever, but there is nothing which can be done about that.

struct futex_q

The hashed futex queue entry, one per waiting task

Definition

struct futex_q {
  struct plist_node list;
  struct task_struct *task;
  spinlock_t *lock_ptr;
  union futex_key key;
  struct futex_pi_state *pi_state;
  struct rt_mutex_waiter *rt_waiter;
  union futex_key *requeue_pi_key;
  u32 bitset;
  atomic_t requeue_state;
#ifdef CONFIG_PREEMPT_RT;
  struct rcuwait requeue_wait;
#endif;
};

Members

list

priority-sorted list of tasks waiting on this futex

task

the task waiting on the futex

lock_ptr

the hash bucket lock

key

the key the futex is hashed on

pi_state

optional priority inheritance state

rt_waiter

rt_waiter storage for use with requeue_pi

requeue_pi_key

the requeue_pi target futex key

bitset

bitset for the optional bitmasked wakeup

requeue_state

State field for futex_requeue_pi()

requeue_wait

RCU wait for futex_requeue_pi() (RT only)

Description

We use this hashed waitqueue, instead of a normal wait_queue_entry_t, so we can wake only the relevant ones (hashed queues may be shared).

A futex_q has a woken state, just like tasks have TASK_RUNNING. It is considered woken when plist_node_empty(q->list) || q->lock_ptr == 0. The order of wakeup is always to make the first condition true, then the second.

PI futexes are typically woken before they are removed from the hash list via the rt_mutex code. See futex_unqueue_pi().

int futex_match(union futex_key *key1, union futex_key *key2)

Check whether two futex keys are equal

Parameters

union futex_key *key1

Pointer to key1

union futex_key *key2

Pointer to key2

Description

Return 1 if two futex_keys are equal, 0 otherwise.

void futex_queue(struct futex_q *q, struct futex_hash_bucket *hb)

Enqueue the futex_q on the futex_hash_bucket

Parameters

struct futex_q *q

The futex_q to enqueue

struct futex_hash_bucket *hb

The destination hash bucket

Description

The hb->lock must be held by the caller, and is released here. A call to futex_queue() is typically paired with exactly one call to futex_unqueue(). The exceptions involve the PI related operations, which may use futex_unqueue_pi() or nothing if the unqueue is done as part of the wake process and the unqueue state is implicit in the state of woken task (see futex_wait_requeue_pi() for an example).

struct futex_vector

Auxiliary struct for futex_waitv()

Definition

struct futex_vector {
  struct futex_waitv w;
  struct futex_q q;
};

Members

w

Userspace provided data

q

Kernel side data

Description

Struct used to build an array with all data need for futex_waitv()

int futex_lock_pi_atomic(u32 __user *uaddr, struct futex_hash_bucket *hb, union futex_key *key, struct futex_pi_state **ps, struct task_struct *task, struct task_struct **exiting, int set_waiters)

Atomic work required to acquire a pi aware futex

Parameters

u32 __user *uaddr

the pi futex user address

struct futex_hash_bucket *hb

the pi futex hash bucket

union futex_key *key

the futex key associated with uaddr and hb

struct futex_pi_state **ps

the pi_state pointer where we store the result of the lookup

struct task_struct *task

the task to perform the atomic lock work for. This will be “current” except in the case of requeue pi.

struct task_struct **exiting

Pointer to store the task pointer of the owner task which is in the middle of exiting

int set_waiters

force setting the FUTEX_WAITERS bit (1) or not (0)

Return

  • 0 - ready to wait;

  • 1 - acquired the lock;

  • <0 - error

Description

The hb->lock must be held by the caller.

exiting is only set when the return value is -EBUSY. If so, this holds a refcount on the exiting task on return and the caller needs to drop it after waiting for the exit to complete.

int fixup_pi_owner(u32 __user *uaddr, struct futex_q *q, int locked)

Post lock pi_state and corner case management

Parameters

u32 __user *uaddr

user address of the futex

struct futex_q *q

futex_q (contains pi_state and access to the rt_mutex)

int locked

if the attempt to take the rt_mutex succeeded (1) or not (0)

Description

After attempting to lock an rt_mutex, this function is called to cleanup the pi_state owner as well as handle race conditions that may allow us to acquire the lock. Must be called with the hb lock held.

Return

  • 1 - success, lock taken;

  • 0 - success, lock not taken;

  • <0 - on error (-EFAULT)

void requeue_futex(struct futex_q *q, struct futex_hash_bucket *hb1, struct futex_hash_bucket *hb2, union futex_key *key2)

Requeue a futex_q from one hb to another

Parameters

struct futex_q *q

the futex_q to requeue

struct futex_hash_bucket *hb1

the source hash_bucket

struct futex_hash_bucket *hb2

the target hash_bucket

union futex_key *key2

the new key for the requeued futex_q

void requeue_pi_wake_futex(struct futex_q *q, union futex_key *key, struct futex_hash_bucket *hb)

Wake a task that acquired the lock during requeue

Parameters

struct futex_q *q

the futex_q

union futex_key *key

the key of the requeue target futex

struct futex_hash_bucket *hb

the hash_bucket of the requeue target futex

Description

During futex_requeue, with requeue_pi=1, it is possible to acquire the target futex if it is uncontended or via a lock steal.

  1. Set q::key to the requeue target futex key so the waiter can detect the wakeup on the right futex.

  2. Dequeue q from the hash bucket.

  3. Set q::rt_waiter to NULL so the woken up task can detect atomic lock acquisition.

  4. Set the q->lock_ptr to the requeue target hb->lock for the case that the waiter has to fixup the pi state.

  5. Complete the requeue state so the waiter can make progress. After this point the waiter task can return from the syscall immediately in case that the pi state does not have to be fixed up.

  6. Wake the waiter task.

Must be called with both q->lock_ptr and hb->lock held.

int futex_proxy_trylock_atomic(u32 __user *pifutex, struct futex_hash_bucket *hb1, struct futex_hash_bucket *hb2, union futex_key *key1, union futex_key *key2, struct futex_pi_state **ps, struct task_struct **exiting, int set_waiters)

Attempt an atomic lock for the top waiter

Parameters

u32 __user *pifutex

the user address of the to futex

struct futex_hash_bucket *hb1

the from futex hash bucket, must be locked by the caller

struct futex_hash_bucket *hb2

the to futex hash bucket, must be locked by the caller

union futex_key *key1

the from futex key

union futex_key *key2

the to futex key

struct futex_pi_state **ps

address to store the pi_state pointer

struct task_struct **exiting

Pointer to store the task pointer of the owner task which is in the middle of exiting

int set_waiters

force setting the FUTEX_WAITERS bit (1) or not (0)

Description

Try and get the lock on behalf of the top waiter if we can do it atomically. Wake the top waiter if we succeed. If the caller specified set_waiters, then direct futex_lock_pi_atomic() to force setting the FUTEX_WAITERS bit. hb1 and hb2 must be held by the caller.

exiting is only set when the return value is -EBUSY. If so, this holds a refcount on the exiting task on return and the caller needs to drop it after waiting for the exit to complete.

Return

  • 0 - failed to acquire the lock atomically;

  • >0 - acquired the lock, return value is vpid of the top_waiter

  • <0 - error

int futex_requeue(u32 __user *uaddr1, unsigned int flags, u32 __user *uaddr2, int nr_wake, int nr_requeue, u32 *cmpval, int requeue_pi)

Requeue waiters from uaddr1 to uaddr2

Parameters

u32 __user *uaddr1

source futex user address

unsigned int flags

futex flags (FLAGS_SHARED, etc.)

u32 __user *uaddr2

target futex user address

int nr_wake

number of waiters to wake (must be 1 for requeue_pi)

int nr_requeue

number of waiters to requeue (0-INT_MAX)

u32 *cmpval

uaddr1 expected value (or NULL)

int requeue_pi

if we are attempting to requeue from a non-pi futex to a pi futex (pi to pi requeue is not supported)

Description

Requeue waiters on uaddr1 to uaddr2. In the requeue_pi case, try to acquire uaddr2 atomically on behalf of the top waiter.

Return

  • >=0 - on success, the number of tasks requeued or woken;

  • <0 - on error

int handle_early_requeue_pi_wakeup(struct futex_hash_bucket *hb, struct futex_q *q, struct hrtimer_sleeper *timeout)

Handle early wakeup on the initial futex

Parameters

struct futex_hash_bucket *hb

the hash_bucket futex_q was original enqueued on

struct futex_q *q

the futex_q woken while waiting to be requeued

struct hrtimer_sleeper *timeout

the timeout associated with the wait (NULL if none)

Description

Determine the cause for the early wakeup.

Return

-EWOULDBLOCK or -ETIMEDOUT or -ERESTARTNOINTR

int futex_wait_requeue_pi(u32 __user *uaddr, unsigned int flags, u32 val, ktime_t *abs_time, u32 bitset, u32 __user *uaddr2)

Wait on uaddr and take uaddr2

Parameters

u32 __user *uaddr

the futex we initially wait on (non-pi)

unsigned int flags

futex flags (FLAGS_SHARED, FLAGS_CLOCKRT, etc.), they must be the same type, no requeueing from private to shared, etc.

u32 val

the expected value of uaddr

ktime_t *abs_time

absolute timeout

u32 bitset

32 bit wakeup bitset set by userspace, defaults to all

u32 __user *uaddr2

the pi futex we will take prior to returning to user-space

Description

The caller will wait on uaddr and will be requeued by futex_requeue() to uaddr2 which must be PI aware and unique from uaddr. Normal wakeup will wake on uaddr2 and complete the acquisition of the rt_mutex prior to returning to userspace. This ensures the rt_mutex maintains an owner when it has waiters; without one, the pi logic would not know which task to boost/deboost, if there was a need to.

We call schedule in futex_wait_queue() when we enqueue and return there via the following– 1) wakeup on uaddr2 after an atomic lock acquisition by futex_requeue() 2) wakeup on uaddr2 after a requeue 3) signal 4) timeout

If 3, cleanup and return -ERESTARTNOINTR.

If 2, we may then block on trying to take the rt_mutex and return via: 5) successful lock 6) signal 7) timeout 8) other lock acquisition failure

If 6, return -EWOULDBLOCK (restarting the syscall would do the same).

If 4 or 7, we cleanup and return with -ETIMEDOUT.

Return

  • 0 - On success;

  • <0 - On error

void futex_wait_queue(struct futex_hash_bucket *hb, struct futex_q *q, struct hrtimer_sleeper *timeout)

futex_queue() and wait for wakeup, timeout, or signal

Parameters

struct futex_hash_bucket *hb

the futex hash bucket, must be locked by the caller

struct futex_q *q

the futex_q to queue up on

struct hrtimer_sleeper *timeout

the prepared hrtimer_sleeper, or null for no timeout

int unqueue_multiple(struct futex_vector *v, int count)

Remove various futexes from their hash bucket

Parameters

struct futex_vector *v

The list of futexes to unqueue

int count

Number of futexes in the list

Description

Helper to unqueue a list of futexes. This can’t fail.

Return

  • >=0 - Index of the last futex that was awoken;

  • -1
    • No futex was awoken

int futex_wait_multiple_setup(struct futex_vector *vs, int count, int *woken)

Prepare to wait and enqueue multiple futexes

Parameters

struct futex_vector *vs

The futex list to wait on

int count

The size of the list

int *woken

Index of the last woken futex, if any. Used to notify the caller that it can return this index to userspace (return parameter)

Description

Prepare multiple futexes in a single step and enqueue them. This may fail if the futex list is invalid or if any futex was already awoken. On success the task is ready to interruptible sleep.

Return

  • 1 - One of the futexes was woken by another thread

  • 0 - Success

  • <0 - -EFAULT, -EWOULDBLOCK or -EINVAL

void futex_sleep_multiple(struct futex_vector *vs, unsigned int count, struct hrtimer_sleeper *to)

Check sleeping conditions and sleep

Parameters

struct futex_vector *vs

List of futexes to wait for

unsigned int count

Length of vs

struct hrtimer_sleeper *to

Timeout

Description

Sleep if and only if the timeout hasn’t expired and no futex on the list has been woken up.

int futex_wait_multiple(struct futex_vector *vs, unsigned int count, struct hrtimer_sleeper *to)

Prepare to wait on and enqueue several futexes

Parameters

struct futex_vector *vs

The list of futexes to wait on

unsigned int count

The number of objects

struct hrtimer_sleeper *to

Timeout before giving up and returning to userspace

Description

Entry point for the FUTEX_WAIT_MULTIPLE futex operation, this function sleeps on a group of futexes and returns on the first futex that is wake, or after the timeout has elapsed.

Return

  • >=0 - Hint to the futex that was awoken

  • <0 - On error

int futex_wait_setup(u32 __user *uaddr, u32 val, unsigned int flags, struct futex_q *q, struct futex_hash_bucket **hb)

Prepare to wait on a futex

Parameters

u32 __user *uaddr

the futex userspace address

u32 val

the expected value

unsigned int flags

futex flags (FLAGS_SHARED, etc.)

struct futex_q *q

the associated futex_q

struct futex_hash_bucket **hb

storage for hash_bucket pointer to be returned to caller

Description

Setup the futex_q and locate the hash_bucket. Get the futex value and compare it with the expected value. Handle atomic faults internally. Return with the hb lock held on success, and unlocked on failure.

Return

  • 0 - uaddr contains val and hb has been locked;

  • <1 - -EFAULT or -EWOULDBLOCK (uaddr does not contain val) and hb is unlocked

Approfondimenti

  • Documentation/locking/spinlocks.rst: la guida di Linus Torvalds agli spinlock del kernel.

  • Unix Systems for Modern Architectures: Symmetric Multiprocessing and Caching for Kernel Programmers.

    L’introduzione alla sincronizzazione a livello di kernel di Curt Schimmel è davvero ottima (non è scritta per Linux, ma approssimativamente si adatta a tutte le situazioni). Il libro è costoso, ma vale ogni singolo spicciolo per capire la sincronizzazione nei sistemi multi-processore. [ISBN: 0201633388]

Ringraziamenti

Grazie a Telsa Gwynne per aver formattato questa guida in DocBook, averla pulita e aggiunto un po’ di stile.

Grazie a Martin Pool, Philipp Rumpf, Stephen Rothwell, Paul Mackerras, Ruedi Aschwanden, Alan Cox, Manfred Spraul, Tim Waugh, Pete Zaitcev, James Morris, Robert Love, Paul McKenney, John Ashby per aver revisionato, corretto, maledetto e commentato.

Grazie alla congrega per non aver avuto alcuna influenza su questo documento.

Glossario

prelazione

Prima del kernel 2.5, o quando CONFIG_PREEMPT non è impostato, i processi in contesto utente non si avvicendano nell’esecuzione (in pratica, il processo userà il processore fino al proprio termine, a meno che non ci siano delle interruzioni). Con l’aggiunta di CONFIG_PREEMPT nella versione 2.5.4 questo è cambiato: quando si è in contesto utente, processi con una priorità maggiore possono subentrare nell’esecuzione: gli spinlock furono cambiati per disabilitare la prelazioni, anche su sistemi monoprocessore.

bh

Bottom Half: per ragioni storiche, le funzioni che contengono ‘_bh’ nel loro nome ora si riferiscono a qualsiasi interruzione software; per esempio, spin_lock_bh() blocca qualsiasi interuzione software sul processore corrente. I Bottom Halves sono deprecati, e probabilmente verranno sostituiti dai tasklet. In un dato momento potrà esserci solo un bottom half in esecuzione.

contesto d’interruzione

Non è il contesto utente: qui si processano le interruzioni hardware e software. La macro in_interrupt() ritorna vero.

contesto utente

Il kernel che esegue qualcosa per conto di un particolare processo (per esempio una chiamata di sistema) o di un thread del kernel. Potete identificare il processo con la macro current. Da non confondere con lo spazio utente. Può essere interrotto sia da interruzioni software che hardware.

interruzione hardware

Richiesta di interruzione hardware. in_hardirq() ritorna vero in un gestore d’interruzioni hardware.

interruzione software / softirq

Gestore di interruzioni software: in_hardirq() ritorna falso; in_softirq() ritorna vero. I tasklet e le softirq sono entrambi considerati ‘interruzioni software’.

In soldoni, un softirq è uno delle 32 interruzioni software che possono essere eseguite su più processori in contemporanea. A volte si usa per riferirsi anche ai tasklet (in pratica tutte le interruzioni software).

monoprocessore / UP

(Uni-Processor) un solo processore, ovvero non è SMP. (CONFIG_SMP=n).

multi-processore / SMP

(Symmetric Multi-Processor) kernel compilati per sistemi multi-processore (CONFIG_SMP=y).

spazio utente

Un processo che esegue il proprio codice fuori dal kernel.

tasklet

Un’interruzione software registrabile dinamicamente che ha la garanzia d’essere eseguita solo su un processore alla volta.

timer

Un’interruzione software registrabile dinamicamente che viene eseguita (circa) in un determinato momento. Quando è in esecuzione è come un tasklet (infatti, sono chiamati da TIMER_SOFTIRQ).