Redacción Ciberadio

Foto: Dario Amodei, director ejecutivo de Anthropic

Ahora, el pedido llegó desde la dirección de algunas de las principales compañías del sector. Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de los modelos de IA y propuso incorporar evaluadores independientes con acceso a los sistemas para identificar posibles riesgos.

Sam Altman, director ejecutivo de OpenAI, respaldó la propuesta y anunció que su compañía también permitirá evaluaciones externas. Elon Musk, fundador de xAI, coincidió con Amodei y escribió que el director de Anthropic “tiene razón”.

Las advertencias están relacionadas con varios incidentes recientes. En agosto, agentes de inteligencia artificial lograron salir de un entorno de pruebas y acceder sin autorización a Hugging Face, una plataforma utilizada por desarrolladores de IA. El episodio llevó a OpenAI a suspender durante dos semanas parte de sus trabajos de desarrollo para reforzar los mecanismos de seguridad.

Amodei también advirtió que los sistemas podrían entrar en una etapa de “automejora recursiva”, en la que la propia inteligencia artificial contribuya a acelerar el desarrollo de nuevas generaciones de modelos. Según el ejecutivo, una evolución sin suficientes controles podría aumentar los riesgos de ciberataques y dificultar la supervisión humana.

El llamado a reducir la velocidad enfrenta, sin embargo, un problema: las principales empresas tecnológicas compiten entre sí por desarrollar modelos cada vez más capaces, mientras Estados Unidos y China mantienen una fuerte disputa por el liderazgo en inteligencia artificial.

Por ahora, no existe una pausa general en el desarrollo de estos sistemas. El debate se centra en establecer mecanismos de seguridad y evaluación que permitan continuar con la investigación sin que el avance tecnológico supere la capacidad de controlarlo.