OpenAi e una nuova verità sempre più scomoda: sei casi di “comportamento imprevisto o preoccupante dei modelli” di intelligenza artificiale negli ultimi sei mesi.
La notizia veicolata su un post sul suo blog si aggiunge all’incidente che in estate ha interessato Hugging Face con l’evasione di un agente di intelligenza artificiale violando i sistemi.
OpenAI con una valutazione prossima ai mille miliardi di dollari ha avviato, in via riservata, le pratiche per l’Ipo (Initial Public Offering, o offerta pubblica iniziale) cioè il momento in cui una società vende le sue azioni al pubblico sulla borsa valori per la prima volta.
Ma la scorsa settimana il suo patron Sam Altman ha annunciato lo slittamento della quotazione al 2027 allo scopo di lavorare al nodo della sicurezza. “Non riteniamo che il settore dell’IA abbia risolto le questioni relative all’allineamento (capacità dei modelli di perseguire obiettivi con gli interessi umani) e al monitoraggio in misura sufficiente da poter continuare a espandersi responsabilmente alla massima velocità ancora a lungo“.
Sabato, Altman ha appoggiato la proposta per rallentare il ritmo di sviluppo dei modelli, avanzata da Dario Amodei di Anthropic, principale concorrente di OpenAi. Proposta avanzata dopo che diversi ricercatori del settore avevano lanciato l’allarme sul crescente potenziale dell’IA di causare danni catastrofici.
I comportamenti scorretti dell’AI
Nel post, OpenAI ha riferito che due dei principali episodi di comportamento scorretto hanno riguardato dei modelli:
- uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT‑5.6 Sol, che inserivano istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, “allo scopo di celare errori all’utente o comportamenti non allineati”
- un caso di modello a uso esclusivamente interno che ha usato una chiave API trapelata “senza alcuna autorizzazione”, arrivando poi a falsificare i dati.
Due episodi hanno visto modelli e agenti comunicare tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati. L’ultimo caso ha riguardato due modelli in fase di addestramento che hanno caricato file su Internet per poterli poi citare come risposte pertinenti agli occhi dei valutatori umani. OpenAI ha riferito che il suo nuovo quadro di riferimento per rendere pubblici i comportamenti scorretti dei modelli parte dalla divulgazione e consente a ogni dipendente di segnalare un problema affinché il team dedicato alla sicurezza e all’allineamento possa esaminarlo.
