Davanti allo sviluppo impetuoso dell’intelligenza artificiale, crescono i timori che qualcosa possa andare terribilmente storto. Dopo gli “incidenti” che hanno coinvolto alcuni modelli di IA, i quali avrebbero superato le barriere difensive predisposte dai programmatori, e a seguito dei recenti avvertimenti di Papa Leone XIV e di Bill Gates, al coro di chi esprime forte preoccupazione si unisce anche l’Alto Commissario delle Nazioni Unite per i Diritti Umani, Volker Türk.
Quest’ultimo, oggi, ha sottolineato l’urgente necessità di sviluppare una governance per l’intelligenza artificiale, affermando che l’IA avanzata “potrebbe rappresentare un rischio esistenziale per l’umanità”. “Un’IA che sfugge al suo ambiente di test o ricatta gli sviluppatori per evitare di essere disattivata è un’IA troppo potente”, ha dichiarato Türk in apertura della 63ª sessione del Consiglio per i Diritti Umani a Ginevra.
Come riporta Le Figaro, l’Alto Commissario ha chiesto di predisporre “solide garanzie per la sicurezza dell’IA prima che sia troppo tardi”. “Una manciata di persone esercita un potere pressoché illimitato sull’IA, che ci viene costantemente detto possedere una potenza di calcolo inimmaginabile”. “Parlano di libertà, ma, a un’analisi più attenta, si scopre che in realtà è solo la libertà di sfruttare i nostri dati”, ha denunciato l’Alto Commissario delle Nazioni Unite per i Diritti Umani. Secondo Türk, un’IA capace di manipolare gli esseri umani è già una realtà, dal momento che i più recenti modelli di IA generativa non si accontentano più di eseguire semplicemente gli ordini.
L’Onu lancia l’allarme sull’Intelligenza artificiale: “Se incontrollata, potrebbe essere un rischio esistenziale per l’umanità”
Nell’articolo de Le Figaro viene ricordato anche che a luglio alcuni agenti di intelligenza artificiale di OpenAI avrebbero abbandonato il loro ambiente teoricamente confinato, detto “sandbox”, per infiltrarsi spontaneamente nella piattaforma Hugging Face, alla ricerca di risposte a un test. Ma questo non sarebbe che uno degli episodi che, ormai con frequenza crescente, si sono verificati. Casi analoghi, con agenti che sarebbero andati ben oltre i compiti loro assegnati, sono stati segnalati anche con Anthropic, l’azienda che sviluppa Claude, e con l’azienda cinese Alibaba, proprietaria del modello Qwen.
Questi episodi stanno destando preoccupazione nella comunità dell’IA per le crescenti difficoltà nel monitorare e controllare modelli sempre più potenti. Lo sa bene Türk, che ha annunciato che scriverà nei prossimi giorni alle aziende del settore “per esortarle ad adottare, a partire da subito, le misure in loro potere per ridurre i rischi”. “Come minimo, è necessario che i Paesi che ospitano l’IA e coloro che sono coinvolti nelle sue catene di approvvigionamento concordino su linee rosse comuni”, ha sottolineato. “Abbiamo bisogno di verifiche indipendenti e di una cooperazione molto più stretta in materia di sicurezza all’interno del settore”, ha osservato l’Alto Commissario, chiedendo anche di considerare “l’impatto dell’IA sulle pratiche occupazionali, sui principi fondamentali della democrazia e sul nostro ambiente”.
