¿Quién revisa la carrera por la inteligencia artificial?

Por 

La frase más peligrosa en el debate sobre la IA es maravillosamente conveniente: “Si no construimos el modelo más inteligente, otro lo hará”. Con esa excusa, saltarse un control de seguridad puede convertirse en un acto de patriotismo. Washington apunta a Beijing y este responde de vuelta. El resto, nos ofrecemos como voluntarios para el experimento.

Me gustaría tener voz y voto. Quiero que la IA ayude a curar enfermedades, devele misterios científicos y ponga la experiencia al alcance de todos. También quiero saber quién revisa el trabajo cuando la misma tecnología podría ayudar a atacar hospitales, desarrollar armas o concentrar un poder extraordinario en manos de unos pocos.

Pedir a todos que reduzcan la velocidad se topa con una dificultad obvia: cada competidor teme ser el único que frena. Así que deberíamos darles una razón para cooperar. Incluso los rivales tienen algo que ofrecerse entre sí: advertencia. Washington, por ejemplo, podría aceptar el escrutinio de sus mayores proyectos de IA a cambio de una visión más clara de Beijing. Cada uno podría obtener cierta protección contra una sorpresa peligrosa.

Aquí es donde comienza la verificación. Hay que acordar qué proyectos deben declararse. Exige registros que los inspectores puedan consultar. Investiga lagunas sospechosas. Acuerda de antemano qué ocurre cuando alguien hace trampas. Los proyectos de IA más grandes requieren chips, electricidad y edificios; hay algo tangible que inspeccionar y es demasiado grande para ocultarlo.

Hay que pensar cómo comprobar las promesas que podrían afectar a todos en la Tierra. Por supuesto, los inspectores pueden pasar por alto cosas. Los gobiernos pueden mentir. Las inspecciones también pueden revelar secretos valiosos, por eso existen salvaguardas contra asuntos de espionaje. Cualquiera que venda una garantía de seguridad perfecta merece considerable sospecha.

El objetivo es detectar trampas peligrosas lo suficientemente pronto para responder. Eso daría a los gobiernos la oportunidad de actuar mientras la acción siga importando.

Chile, Canadá y otros países deberían ayudar a construir este sistema juntos. Podrían unir experiencia científica, apoyar inspecciones independientes y hacer que el acceso a sus mercados dependa de cumplir los compromisos acordados. Los países que sufren las consecuencias merecen un papel en establecer los términos por los cuales la humanidad persigue la inteligencia artificial.

Mi entusiasmo por la IA viene con una pregunta sencilla para cualquiera que prometa cambiar la civilización: ¿quién puede revisar tu trabajo? La humanidad merece una mejor política de seguridad que esperar que los competidores más ambiciosos resulten ser los más responsables.

Por Mark Daley, director de Inteligencia Artificial de Western University.

NEWSLETTER

OpiniónSábado, AMIdeas en tensión, miradas contrapuestas y un análisis claro: elementos para develar los temas que dividen opiniones y marcarán la agenda.