Oltre 100 esperti IA, 'Anthropic e OpenAI hanno bisogno di valutatori indipendenti'

Anthropic e OpenAI necessitano di valutatori indipendenti per la sicurezza dei loro sistemi di Intelligenza artificiale: è il messaggio contenuto in una lettera aperta di oltre 100 esperti di intelligenza artificiale che fanno capo al consorzio 'AI Evaluator Forum'.

"Vogliamo dimostrare l'esistenza di una base comune fondata su principi fondamentali e che garantire una supervisione indipendente possa costituire uno strumento efficace per la gestione dei rischi legati all'IA su larga scala", ha dichiarato Conrad Stosz, presidente del consorzio.

Il gruppo ha pubblicato una lettera aperta, diffondendola in esclusiva alla testata Cnbc, tra i firmatari figurano personalità di spicco del settore come Geoffrey Hinton, uno dei padri dell'IA ed esponenti di istituzioni come la Johns Hopkins University, la Stanford University e l'organizzazione no-profit di valutazione Metr. L'obiettivo è spingere le società a garantire ai valutatori esterni le condizioni necessarie in termini di "obiettività scientifica, trasparenza, indipendenza e tutele solide" per svolgere il proprio lavoro in modo efficace e credibile.

La comunità di esperti di valutazione è finita sotto i riflettori dopo che, nello scorso fine settimana, l'amministratore delegato di Anthropic, Dario Amodei, ha avanzato l'idea di concedere ad alcuni di loro un accesso simile a quello dei dipendenti per sottoporre a verifica i modelli di base di ultima generazione e i relativi processi di sviluppo.

Nell'acceso dibattito che è scaturito in questa settimana sullo sviluppo veloce di questa tecnologia, alcuni leader del settore hanno sollecitato il governo Usa a regolamentare lo sviluppo dell'IA per evitare che la situazione sfugga al controllo mentre il presidente statunitense Donald Trump e il suo ex responsabile per l'IA, David Sacks, si sono opposti con fermezza a tali iniziative.