Nei film l'intelligenza artificiale ribelle si ferma sempre allo stesso modo: qualcuno stacca la spina. Nella realtà la questione è più complicata, ed è diventata una discussione seria tra aziende e governi.
Cos'è un "kill switch"
L'espressione inglese significa "interruttore per uccidere": un pulsante d'emergenza per fermare subito un sistema. Per l'intelligenza artificiale non è un vero pulsante rosso, ma un insieme di regole e strumenti tecnici:
- poter spegnere i server su cui gira un modello;
- poter ritirare un modello già pubblicato o bloccarne alcune funzioni;
- decidere prima delle soglie di rischio oltre le quali ci si ferma.
Gli impegni di Seul
Il 21 maggio 2024, durante il vertice internazionale sull'intelligenza artificiale di Seul, sedici aziende firmano i Frontier AI Safety Commitments. Tra loro ci sono OpenAI, Google, Microsoft, Meta, Amazon e Anthropic. La promessa più citata, quella che i giornali hanno chiamato "kill switch", è questa: ogni azienda definirà delle soglie di rischio e, se non riuscirà a tenere i rischi al di sotto, non svilupperà né rilascerà quel modello.
Sono impegni volontari: nessuno può costringere un'azienda a rispettarli.
- Poter spegnere i serversu cui gira il modello
- Poter ritirare un modelloo bloccarne alcune funzioni
- Decidere prima le soglie di rischiooltre le quali ci si ferma
La legge californiana
In California una proposta di legge, la SB 1047, voleva rendere obbligatoria per i modelli più grandi la possibilità di uno spegnimento completo. Il testo è stato approvato dal parlamento statale, ma il 29 settembre 2024 il governatore Gavin Newsom ha messo il veto, sostenendo che rischiava di frenare l'innovazione senza colpire i rischi giusti.
Il problema di fondo
Spegnere un server è facile. Il difficile è un altro: un modello pubblicato apertamente, scaricabile da chiunque, non si può più ritirare. E i rischi spesso non si vedono finché non succedono. Per questo gli esperti parlano meno di pulsanti e più di test prima del rilascio.
Mito o verità?
"Esiste un pulsante che spegne l'intelligenza artificiale": in parte vero. Ci sono impegni e strumenti per fermare un modello, ma nessun interruttore unico, e molte regole sono ancora volontarie.
Secondo te un'IA si può davvero spegnere?
Tocca una risposta per vedere come hanno risposto gli altri.
Hai trovato un errore? Segnalacelo. Le eventuali correzioni restano visibili in questa pagina.
