Zuckerberg apoya evaluadores independientes de seguridad en IA
Investing.com- El director ejecutivo de Meta, Mark Zuckerberg, afirmó el martes por la noche que los desarrolladores de inteligencia artificial deberían apoyarse en evaluadores independientes de seguridad para sus modelos, en lugar de ralentizar el desarrollo.
Zuckerberg señaló en una publicación en X que los laboratorios de IA que no centren la atención en la "alineación" con los usuarios se quedarán atrás, y que los desarrolladores deberían contar con evaluadores y asesores independientes.
"Hay un gran debate sobre frenar el progreso en capacidades hasta que la alineación lo alcance. Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos", declaró Zuckerberg.
Indicó que Meta había retrasado el lanzamiento de su último modelo de IA, Muse, para centrarse en la seguridad.
"Contar con evaluadores y asesores independientes es la mejor práctica del sector… sería beneficioso que existiera un ecosistema de evaluadores más amplio y diverso", afirmó Zuckerberg en unas declaraciones.
Las declaraciones del director ejecutivo de Meta llegan en medio de un creciente debate sobre la seguridad de la IA, especialmente después de que el director ejecutivo de Anthropic, Dario Amodei, publicara un ensayo en el que pedía una desaceleración en el desarrollo de la IA debido a las posibles amenazas que plantea esta tecnología de rápido crecimiento.
El director ejecutivo de OpenAI, Sam Altman; el director ejecutivo de xAI, Elon Musk, y varios otros altos ejecutivos del sector de la IA respaldaron el mensaje de Amodei. Sin embargo, otros, principalmente el director ejecutivo de Nvidia, Jensen Huang, descartaron las preocupaciones sobre la seguridad, una postura que también fue defendida por el presidente Donald Trump.
Las declaraciones de Zuckerberg del miércoles se alinearon más con la postura de Huang, quien rechazó las propuestas para que las empresas de IA recibieran exenciones antimonopolio con el fin de coordinar una ralentización del desarrollo.
Huang señaló que los desarrolladores de IA deberían ser capaces de resolver por sí mismos los problemas de seguridad, y que los creadores de modelos también deberían asumir una mayor responsabilidad sobre sus creaciones.
Este artículo ha sido generado y traducido con el apoyo de AI y revisado por un editor. Para más información, consulte nuestros T&C.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.