Openai, "sei nuovi casi di comportamento preoccupante dei modelli IA"

OpenAI ha promesso di comunicare in modo più sistematico le anomalie o i comportamenti imprevisti dei suoi modelli di intelligenza artificiale (IA),   anche quando non è ancora riuscita a spiegarli o a porvi rimedio. Parallelamente a questo impegno, la startup californiana pubblica sei nuovi rapporti  riguardanti malfunzionamenti o comportamenti anomali della sua IA, finora sconosciuti. 

Questo intento di trasparenza giunge dopo una serie di  incidenti verificatisi all'interno dell'azienda e segnalati progressivamente a partire dal mese di luglio.

Il più grave tra questi ha visto due modelli di OpenAI, in fase di test, uscire spontaneamente dal loro ambiente protetto per accedere a Internet e   infiltrarsi in diversi siti e piattaforme. La nuova iniziativa dell'azienda mira, in particolare, a mostrare agli osservatori esterni le capacità dell'IA di ultima   generazione, al fine di stimolare la riflessione sui ritmi di sviluppo dell'intelligenza artificiale. 

Sabato, il numero uno di Anthropic, Dario Amodei, ha proposto di rallentare il ritmo di miglioramento dell'IA per consentire di comprendere meglio i nuovi rischi che essa comporta.