Las empresas que desaollan los modelos más avanzados de inteligencia artificial saben cómo controlar lo que están construyendo. La duda vuelve a surgir después de investigador que trabajó en pre-entrenamiento de los modelos de openai y anthropic, anunció su salida con un mensaje muy fuerte en contra de las dos compañías y cito.

He pasado los últimos tres años dedicándome a la investigación sobre el pre-entrenamiento en openai y en anthropic. Ninguna de las dos empresas está actuando de forma responsable.

Están lanzando de cabeza hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas. Para analizar el alcance de esta denuncia nos acompaña ernesto verdugo.

Ernesto, gracias por estar con nosotros. A qué se está refiriendo con esta?

Con esta información? Qué tal kimberlin?

Mira, yo cada vez que veo este tipo de cosas porque no es la primera vez que se va una persona de ya sea de de cualquiera de las compañías que está haciendo inteligencia artificial, lo que en realidad están diciendo es que la inteligencia artificial está avanzando más rápido de lo que se puede controlar. Eso es exactamente lo que está diciendo.

Pero qué quiere decir? Que en algún momento, o sea, si imaginamos que en algún momento está descontrolada la inteligencia artificial.

Qué quiere decir? Cuáles son las implicaciones?

Qué es lo que sucedería? Que.

Lo que pasa es que, eh, se llama gobernabilidad. Y ese es el gran problema, que como.

O sea, estamos operando una tecnología del siglo 21 con mentalidad del siglo 20. Entonces, o sea, lo que está sucediendo es que todo el mundo está lanzando agentes, está haciendo toda clase de cosas y no entienden lo que significa la gobernabilidad.

Entonces, cuando no hay gobernabilidad, los agentes que tú haces de inteligencia artificial, pues se ese es el problema, que mientras no entiendan la, la, las industrias, sobre todo las compañías que tienen que tener artificial y mientras no entiendan los gobiernos que se tiene que tomar muy en serio todo esto, pues obviamente va a seguir habiendo muchísimos riesgos. Pero qué es lo que tienen que hacer?

Qué es este tema de la gobernabilidad? Porque el ciudadano de a pie lo que escucha y cree que viene un momento terminator.

No es un gobierno, no es un momento terminator para nada. La la persona de a pie, la persona que está en su casa, pues no tiene mucho control.

Pero todas las personas que están trabajando en una compañía que están diciendo bueno, yo estoy operando con inteligencia artificial para poder acelerar mis mis procesos se ponen, se ponen a investigar diferentes herramientas, las ponen sin, sin tener, sin ponerle patas. La gobernabilidad significa como una constitución si tú le le.

O constitución, cuáles son las reglas de lo que puede hacer y lo que no puede hacer la inteligencia artificial que tú estás poniendo dentro de tu compañía? Eso es una cosa.

Pero artificial haga lo que se le dé la gana, pues obviamente es un riesgo. Por supuesto, y eso está pasando ahora y se necesitaría una legislación global, porque no podría ser solo por países.

Es que son dos cosas. O sea, la legislación es lo que hacen los gobiernos, pero ahí el problema avanza un poco más lento, como es en toda la burocracia.

El problema más grande es que todas las compañías tienen la urgencia de entrar a trabajar con están haciendo es que están abriendo las puertas a un montón de hackers, a un montón de personas, porque no entienden lo el gran problema que se tiene ahorita es son esos agentes que están entrando por la inteligencia artificial. Y el problema no es que la gente sea malo o que esté esté mal puesto, pero hay personas que saben que saben muy de una manera muy efectiva cómo manipular esos agentes que no tienen una