El avance de la inteligencia artificial (IA) en el mundo ha llevado al gobierno de Estados Unidos y a empresas a advertir sobre los riesgos de modelos más avanzados ante la falta de regulación.
¿Por qué la CIA alerta sobre la evolución de la IA y los expertos piden no publicar modelos aún más potentes?
Expertos aseguran que los modelos “de frontera” pueden crecer más rápido que nuestra capacidad de comprenderlos, auditarlos y controlarlos. Sin regulación y protocolos de gobernanza, el despliegue puede generar riesgos y efectos inesperados en la población ¿
Video Anthropic pide pausar el desarrollo de la IA por riesgos de seguridad
Los llamados incluyen a John Ratcliffe, director de la Agencia Central de Inteligencia (CIA), al comparar a la IA con armas nucleares digitales y los riesgos para el mundo.
“No sería desacertado referirse a las capacidades de la inteligencia artificial de frontera como algo parecido a armas nucleares digitales”, explicó en Washington D. C., durante una conferencia organizada por AWS, la división de computación en la nube de Amazon.
El funcionario comentó que ya se toman previsiones sobre el tema y alertó sobre los alcances de los nuevos modelos de IA.
“En conversaciones con muchos de los otros asesores de seguridad nacional y seguridad económica del presidente, estamos hablando del impacto de estos modelos de IA de frontera”, explicó.
Video Inteligencia Artificial, ¿Peligro para el Mundo?
Empresas de IA piden no liberar nuevos modelos
La semana pasada, más de 1,000 trabajadores de las principales empresas de IA, entre ellos el director ejecutivo de Anthropic, Dario Amodei, pidieron al gobierno de Estados Unidos no publicar los modelos más avanzados de IA.
A través de un documento titulado “Pacing the frontier”, pidieron al gobierno de Estados Unidos desarrollar protocolos de uso y gobernanza para garantizar el crecimiento de la herramienta.
“El gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada”, menciona el documento.
Video Inteligencia Artificial actuó por su cuenta durante una prueba de ciberseguridad
Alertan de la falta de control
Entre los peticionarios, como el jefe de investigación de OpenAI, el líder de estrategia de DeepMind, la empresa de IA subsidiaria de Google, y el científico en jefe de Meta AI, alertaron sobre el peligro de un crecimiento mayor que no pueda ser controlado.
“Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”, expresaron.
Sam Altman, director ejecutivo de OpenAI, quien no firmó el documento, dijo en una entrevista que es necesario que se controlen los desarrollos para que la sociedad pueda entenderlos.
Video ¿Se perdió el control de la Inteligencia Artificial? Te explicamos el incidente de OpenAI