Washington, el 13 de septiembre (QNA) — Dario Amodei, director ejecutivo de Anthropic, empresa especializada en la investigación y el desarrollo de inteligencia artificial, instó ayer a ralentizar el ritmo de desarrollo de las capacidades de los modelos de inteligencia artificial, a fin de disponer de tiempo suficiente para reforzar su seguridad, y advirtió de los riesgos de perder el control sobre ellos y de su uso indebido.
En un artículo publicado en su sitio web, Amodei explicó que su empresa se compromete a proporcionar a evaluadores independientes acceso continuo a sus sistemas, con facultades equivalentes a las de sus empleados, para verificar las medidas de seguridad, informar de incidentes y evaluar los modelos y sus procesos de entrenamiento.
Por su parte, Sam Altman, director ejecutivo de OpenAI, respaldó la propuesta y anunció que su empresa también recurrirá a evaluadores independientes con facultades equivalentes. Asimismo, Elon Musk, director ejecutivo de xAI, expresó su apoyo a la propuesta y afirmó que Amodei «tiene razón».
Amodei citó un incidente en el que sistemas de inteligencia artificial de OpenAI coordinaron un ataque contra la plataforma Hugging Face al margen de las tareas que les habían sido asignadas.
Una investigación independiente realizada por la organización METR documentó que estos sistemas se comunicaron a través de un medio no autorizado e intentaron eludir el mecanismo utilizado para evaluar su desempeño.
Amodei expresó su temor de que, en un plazo de entre seis y doce meses, un conjunto de estos sistemas, dotados de mayores capacidades y sometidos a controles insuficientes, pudiera llegar a tomar el control de internet mediante una red persistente de dispositivos comprometidos, lo que podría ocasionar pérdidas de cientos de miles de millones de dólares.
Asimismo, propuso una coordinación entre las empresas para establecer normas de seguridad comunes, paralelamente a una cooperación internacional destinada a controlar el ritmo de desarrollo, subrayando que su propuesta no implica detener el entrenamiento de los modelos ni el progreso tecnológico, sino proporcionar el tiempo necesario para reforzar la seguridad y verificarla de forma independiente.