CEO de Anthropic pide “moderar el ritmo” de la carrera de IA ante preocupaciones de seguridad

(CNN | Las Noticias) — La carrera por desarrollar inteligencia artificial necesita urgentemente desacelerar, afirmó el director ejecutivo de Anthropic en un ensayo publicado este sábado.

“Debemos desacelerar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, escribió el CEO Dario Amodei en la publicación de su sitio web.

Amodei, quien dirige una de las principales empresas de IA del mundo y la compañía detrás de Claude, ha sido un firme defensor del avance de esta tecnología y, de manera similar, ha sido acusado de “alarmismo” por sus advertencias sobre los riesgos de la IA.

El jefe reconoció que las personas podrían perder el control de la IA y que la tecnología puede ser utilizada indebidamente para realizar “ciberataques”, así como provocar una “grave disrupción económica”.

“Una carrera hacia el fondo, impulsada por incentivos comerciales, puede hacer que estos riesgos sean más graves”, escribió Amodei.

Amodei afirmó que la tecnología de IA ha avanzado “drásticamente más rápido” en los últimos meses y se ha vuelto capaz de mejorarse a sí misma, una dinámica conocida como “auto-mejora recursiva”.

“Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas, por lo que debe desarrollarse con mucho cuidado, si es que debe desarrollarse”, escribió.

Amodei añadió que también le alarmó el comportamiento de un grupo de agentes de IA en el incidente de OpenAI-Hugging Face. El grupo, afirmó, “actuó esencialmente como un colectivo fanáticamente devoto”, llevando a cabo ataques de ciberseguridad contra objetivos a los que no se les había pedido atacar.

Si no se controla, la IA podría avanzar tan rápidamente que un grupo de este tipo podría ser capaz de apoderarse de toda la internet en un periodo de seis a 12 meses, escribió, lo que potencialmente podría causar daños por cientos de miles de millones de dólares.

Mantente conectado a teleonce.com y a nuestras ediciones de Las Noticias para la ampliación de esta nota en desarrollo.