Información y la verdad gran suerte la que tuvo ese esquiador de tener esos compañeros definitivamente le salvaron la vida. Y miren, cambiamos de información porque crece la polémica entre la empresa anthropic y el pentágono, luego de que la compañía rechazara los términos del gobierno para permitir el uso de su inteligencia artificial en aplicaciones que podrían incluir vigilancia masiva o incluso escuche bien armas autónomas, desatando un gran choque sobre ética, seguridad y control tecnológico.

Pues bien, vamos a analizar todo este tema tan importante. Hablamos ahora con el experto en inteligencia artificial ernesto verdugo.

Ernesto muy buenas tardes. Un gusto saludarte.

Cómo estás? Feliz viernes.

Muy bien borja. Qué tal?

También gusto en saludarte. Bueno, vamos a ver si aterrizamos un poco esta información, porque en muchas ocasiones, ernesto, cuando hablamos de este tipo de temas de inteligencia artificial, es muy probable que a muchos, incluido este servidor, a veces se nos escapan algunos detalles.

Cómo podríamos explicar esta noticia? Para que lo entendamos todos?

Pues mira, es una noticia muy importante porque acaban de cambiar 100%, eh, las reglas de cómo va a operar todo con la inteligencia artificial. Ahorita, en este momento el que haya dicho que no al pentágono, lo que sucede es que le ha eh, ha puesto la ha puesto una una línea en la arena, digamos, para decir sabes qué?

Que no te mezclar con nosotros. Anthropic esta es muy famosa por ser muy ética y por eso es que darío amodei, el ceo de de anthropic.

El se salió. El estaba también con openai y pues obviamente el gobierno a lo mejor lo van, los pero eso le ha dado un una una fuerza muy grande.

A o sea, yo pienso que claude va a tomar una significancia muy grande y dependiendo de cuál va a ser las gobierno para para forzarlos a que los utilizar sus sistemas. Muy bien explicado ernesto.

Muchas gracias. Pues cuéntanos un poquito .

Entonces ahora en el análisis, qué implicaría desde un punto de vista técnico y ético esta negativa de anthropic de permitir que su ia sea usada en armas autónomas o vigilancia masiva? Qué pasaría entonces?

Pues mira, obviamente no sabemos qué es lo que va a hacer el gobierno, o sea, el gobierno. A lo mejor los puede forzar y pues no sé qué es lo que vayan a hacer, pero conociendo la mentalidad de de darío amodei, que es el el ceo de la empresa, eh, seguramente va a haber este va, esto va esta controversia está solamente empezando .

Openai el 13 de febrero cerró su su ah mmm eh, cómo se llama su política recursiva y ya no está operando de esa manera. Entonces los.

Ahora los gigantes son google cloud y este y y pues obviamente el el que más eh límites de de cómo se llama de eh que que no vayan a forzar a que el gobierno los vaya a forzar porque tienen un sistema tremendamente poderoso, es cloud. Entonces sí va a haber muchísimos cambios.

Este es solamente el principio, o sea, esto va esto, esto va a empezar a rodar, pero una y otra vez, o sea, seguramente vamos a estar comentando mucho, muchísimo más cosas de lo que va a estar sucediendo en las siguientes semanas. Me gustaría que también en esta entrevista, ernesto, pudiéramos hablar un poco de los riesgos, pero de los riesgos reales de usar esta inteligencia artificial en este tipo de entornos que sean militares o incluso cuando hablamos de seguridad nacional, qué implicaría?

Son son riesgos altos porque los niveles de. O sea, ahorita, en este momento, ninguno de estos sistemas está controlando, está controlando estas cosas.

Ahora, qué es el problema? El problema no es que el gobierno o que el pentágono, que el o que los militares tengan acceso.

El problema es que, pues, obviamente estamos poniendo nuestro futuro en manos de una compañía como anthropic, que puede ser hackeada por personas que están conociendo exactamente qué hacer. Y entonces los los malos, digamos, si van a poder tener acceso a lo que no deberían tener acceso, entonces es una.

Es un tema super controversial, súper controversial. Porque claro, sería factible, por ejemplo, garantizar que un sistema como cloud, el que estás escribiendo ese chatbot, nunca sea usado para vigilancia masiva.

Podría ser. Exacto, porque qué es lo que sucede?

Exacto, porque qué es lo que sucede en este momento? En este momento no hay acceso.

O sea, tú puedes decirle a cloud o puedes decirle a a jeinny o puedes decirle a cualquier cosa que sea sobre seguridad nacional y no tienen esa conexión. O sea, esa conexión no existe.

En el momento que se haga esa conexión, qué es lo que va a pasar? Pues que obviamente ya no es tanto el no es tanto el el la.

Las restricciones del gobierno del pentágono, sino pues obviamente los guardrails como dicen en inglés. No sé cómo se dice en español, eh?

Para para proteger que las personas este malas se metan a al sistema y puedan causar un desastre. Pero claro, habría que ver un poco cuáles son las intenciones del pentágono y las ganas que tienen de hacer esta conexión.

Porque yo me pregunto algo, teniendo en cuenta que en el mercado, como tú muy bien estás describiendo, hay muchas empresas de inteligencia artificial que tienen diferentes chatbots? Pues también de pronto esta empresa anthropic podría perder su contrato con el pentágono y el pentágono irá a buscar a otro chatbot de otra empresa de inteligencia artificial que sí cumpla con sus deseos.

Eso podría ser factible o no 100%. O sea, ahorita bueno, ahorita ya no es que haya muchas, en realidad son son americanas, son, son cuatro fuertes eh, de las cuales openai ya está fuera de esto porque le acaban de quitar al 100% la recursión a todo lo que es, eh, todo lo que es sus sistemas de inteligencia artificial.

El 13 de febrero. Entonces openai yo pienso que está fuera de la jugada.

La. Obviamente, la siguiente era cloud y los siguientes son los dos monstruos de toda la de toda la data, de toda la información que son, que esa tiene la data de lo que era twitter antes y pues obviamente giannina que es el que tiene google google.

Asumo que asumo. O sea, ese sería el el siguiente paso donde tendrían que ir ellos y pues obviamente depende de cuáles sean sus este sus restricciones también, eh?

Cómo se llama? Eh, morales para, para no entrar.

A mi lo que hizo cloud me demuestra la calidad moral de lo que de lo que es este darío amodei el ceo. Porque en realidad el haber hecho eso, haber puesto la la la raya en la arena, quiere decir que.

O sea que él está, que él no se quiere involucrar en una cosa que puede causar problemas en un futuro. Y yo creo que es tan necesario esos límites éticos.

Cuando hablamos un poco de la hemos visto también la manera en la que otros chatbots desarrollan, por ejemplo, imágenes sexuales de personas. Es decir, creo que tiene que haber un poquito de cordura en esto, en estas nuevas tecnologías, y creo que por el bien de la humanidad.

Pero esto ya es una reflexión un tanto personal. Ernesto verdugo, experto en inteligencia artificial, como siempre, es un