OpenAI overweegt ontwikkeling van AI-modellen te vertragen om veiligheidsrisico’s te beperken
door businessam.be
gepubliceerd op om •
3 min lezen
Key takeaways
- OpenAI onderzoekt de mogelijkheid om de ontwikkeling van geavanceerde AI-modellen te vertragen.
- Sam Altman dringt aan op sectorbrede samenwerking om risico’s van autonome systemen te beperken.
- Veiligheidsgerichte pauzes verstoren nu de interne trainingscycli.
Volgens een rapport van Bloomberg onderzoekt OpenAI de mogelijkheid om het tempo waarin het geavanceerde AI-modellen ontwikkelt te vertragen.
Bronnen die dicht bij de situatie staan, geven aan dat CEO Sam Altman tijdens een recente personeelsbijeenkomst heeft gesuggereerd dat het bedrijf zijn huidige tempo van vooruitgang zou kunnen matigen.
Coördinatie binnen de sector en risico’s
Hoewel Altman de wens uitsprak dat andere AI-onderzoekscentra een vergelijkbare aanpak zouden volgen, erkende hij dat sommige concurrerende bedrijven wellicht niet bereid zijn om mee te werken aan een dergelijke gecoördineerde vertraging.
Deze interne dialoog vindt plaats terwijl medewerkers in de hele technologiesector hun groeiende bezorgdheid uiten over de risico’s die gepaard gaan met autonome AI, wat leidt tot meer toezicht binnen de hele sector.
Implementatie van veiligheidsmaatregelen
De ontwikkelaar van ChatGPT heeft al veiligheidsgerichte pauzes ingevoerd. Daarbij zijn sommige interne trainingsoefeningen stopgezet en bepaalde onderdelen van de ontwikkelingscyclus vertraagd. Bloomberg merkte op dat het bedrijf officieel geen commentaar op de bijeenkomst heeft willen geven.
De veiligheidsmaatregelen volgen wel op gesprekken op hoog niveau met vertegenwoordigers van de Amerikaanse overheid. Altman maakte in juli met name bekend dat hij gesprekken had gevoerd met het Witte Huis over het belang van het beheersen van de snelheid waarmee AI zich ontwikkelt. (lv)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.