L'IA di Anthropic è vicina alla capacità di auto-migliorarsi

In un recente aggiornamento, rilasciato in occasione degli ultimi risultati finanziari, Anthropic ha riferito che la sua intelligenza artificiale è vicina a migliorarsi in maniera autonoma. L'azienda ha inserito lo scenario tra i fattori di rischio dell'IA nel documento presentato alla Sec, parlando di "miglioramento ricorsivo autonomo". Questo si verifica quando un software diventa abbastanza avanzato da programmare e addestrare i modelli successivi, innescando una reazione a catena che accelera l'evoluzione della tecnologia. Per Anthropic, ciò comporta un problema di sicurezza: se le macchine avanzano troppo in fretta, gli esperti rischiano di non avere il tempo necessario per verificare i comportamenti del sistema e mantenerlo sotto controllo.

Anche se i modelli attuali non hanno ancora raggiunto questa soglia, secondo le stime interne, le prossime generazioni potrebbero riuscirci presto. Anthropic ha comunque garantito che non permetterà al proprio software di progettare nuove versioni senza supporto umano: ricercatori e tecnici resteranno alla guida di ogni fase del lavoro. "Stiamo valutando aggiornamenti alla nostra politica di scalabilità responsabile per mantenere il controllo umano sullo sviluppo dei modelli di frontiera", ha spiegato Anthropic.