Al estudio con más al minuto. Un tema muy importante.

Muchísimas gracias edwin por brindarnos esta información. Y miren, seguimos con el tema porque google y openai estarían debatiendo la creación de un organismo para fijar estándares en la industria tecnológica.

Esto según fuentes que también aseguran que la iniciativa propone un modelo similar al que lleva finra, que es la autoridad reguladora de la industria financiera por sus siglas en inglés. El organismo estaría liderado por estados unidos, sería financiado por la propia industria y su función sería probar, eso sí, supervisado por el gobierno.

Las inteligencias artificiales avanzadas antes de que sean implementadas. Un tema muy importante.

Vamos a continuar hablando sobre la inteligencia artificial, específicamente sobre los riesgos que implica la misma y las advertencias y propuestas de los altos ejecutivos de esa precisamente vamos a analizarlo y para eso contamos con el experto en tecnología salvador martí. Salvador, gracias por acompañarnos.

Buenas tardes. Lo primero cómo estás?

Muy buenas tardes. Bien, pero también estoy igual que ustedes, asombrado sobre estas últimas noticias relacionadas con las empresas tecnológicas más grandes de estados unidos, que justo ven con preocupación el tema de la inteligencia artificial.

Vamos a empezar entonces a analizar esta situación, porque abierta y esa dimisión de un empleado de anthropic que dice que en muy pocos años la inteligencia artificial puede desarrollar un poder que vaya directamente a acabar con la evidentemente, los altos ejecutivos comienzan a rebajar, pero también muestran su preocupación y eso no coincide con la postura del presidente donald trump. Realmente tú crees el experto en tecnología?

Hay de verdad pruebas de que podemos estar preocupados sobre este tema? Totalmente.

Este mensaje que reflectores a que volteáramos a ver precisamente el problema. Sin embargo, los mensajes estaban desde mucho antes, desde lanzaron comunicados donde informaron que algunas de sus inteligencias artificiales habían saltado estos controles que se les habían puesto.

Y no dado ciertas órdenes que de pronto ellos empezaron a hacer cosas completamente distintas o cosas que no tenían que ver necesariamente con ese primer comando. Y es ahí donde empezaron los focos rojos.

Y por esa misma razón es que muchos de ellos de las mismas empresas, están con este temor sobre cuáles son los alcances. Si seguimos no en el desarrollo de la inteligencia artificial en esta carrera tan acelerada actualmente el llamado no es a que se detenga, no es a que no exista el llamado, es a esta forma de desacelerar porque va demasiado rápido.

Y ante todo esa preocupación, esta advertencia, el presidente trump se ha pronunciado y como dice y sostiene que quien gane esta carrera de la inteligencia artificial lo ganará todo. Estamos ante una narrativa exagerada del mandatario o estamos en la carrera para apoderarnos o ser líderes en esta industria?

Creo que es un panorama muchísimo más amplio. Quien gane esta carrera lo va a ganar todo, pero aquí va a ganar lo positivo y lo negativo.

Es decir, hace poco tiempo estábamos también aquí discutiendo univisión donde las eh estas robots que pudieran tener autonomía para tomar decisiones en caso de una guerra o en en frentes de combate, pues imaginemos que si puedes tener esa capacidad de desarrollo, de procesamiento de tecnología, pero tanto te puede ayudar para estos ataques como en algún hacia ti mismo. Efectivamente, gana todo, pero gana lo bueno y gana lo malo.

Y lo malo también es bastante malo. Claro, es que realmente nos bastante caótico, porque entonces toda esta tecnología en las manos equivocadas puede resultar en algo, como bien decía este trabajador ex-trabajador de anthropic, que puede acabar con la humanidad, corremos el riesgo de que esta tecnología ya no sea desarrollada por china o ya no sea desarrollada por estados unidos, sino que sea externos que de pronto creen una tecnología o es demasiado ciencia ficción lo que estoy diciendo.

Lo que está no es que lo hagan agentes externos, es que inteligencias artificiales. Borja o sea, yo creo que aquí, y lo quiero poner en un plano mucho más aterrizado el caso, un robot que tienes un restaurante, contratas o compras este robot que te va a ayudar supuestamente a la limpieza, barrer, trapear y de pronto robot y puede cocinar.

Y de pronto el chef está preocupado porque ya lo corrieron y ahora el robot cocina. Y mientras nosotros nos estábamos preguntando cuántos empleos se van a perder?

La pregunta en realidad era por qué un robot que yo compré para limpiar ahora está cocinando? Y empezamos a ver un ejemplo tan aterrizado que en un futuro ese robot podría recibir otras actualizaciones, podría ser vulnerado y de pronto, además de realizar ciertas actividades, de tu restaurante.

Y de pronto ya nos daríamos cuenta en algún punto que ya está tomando el control de muchas más cosas y decisiones por sí solo. Eso en un plano donde pues te puede ayudar a algunas cosas es perfecto, pero en un plano donde algo resulte contraproducente, claro, como mencionas, la preocupación más grande es la rapidez con la que está avanzando esa tecnología mucho más rápido que los humanos en deberíamos implementar como país, como sociedad?

Más legislación. Deberíamos también pedir a los a los dueños de esas industrias, estas compañías de inteligencia artificial que responsabilidad social.

Qué deberíamos implementar para no terminar en una situación así tan preocupante? Si el marco es bastante diría que el tema de transparencia debe ser muy importante, pero eso también es complicado porque muchas de estas empresas que son utilizadas para fines militares evidentemente no podrían ejercer esas labores de transparencia.

Entonces nos quedamos un poco sueltos en ese aspecto y es un poco la preocupación también de la misma industria, porque ellos están desarrollando ciertos sistemas, no quisieran y saben de los riesgos y tratan de decirle al gobierno bueno, que la regulación esté enfocada a que eh estos ejercicios de desarrollo tengan unos niveles donde podamos regular con más tiempo este este sistema y que no se desarrolle tan rápido a llegar y puede ser demasiado tarde. A qué específicamente?

A que en términos de salud estos, eh, eh, estos sistemas puedan desarrollar armas biológicas o que estos sistemas puedan atacar sistemas financieros? Es un poco como el que teníamos mucha preocupación en aquel entonces, sobre qué tanta incertidumbre, qué podría pasar y que ahora lo estamos viendo pero con inteligencia artificial.

La verdad que es impresionante a lo que nos estamos enfrentando. Ojalá que artificial no solamente sirva para crear armas nucleares o armas de destrucción masiva, sino también, por ejemplo, para curar los cánceres, que no estaría nada mal.

Tiene muchas cosas positivas. Y otras negativas, así que bueno, estaremos muy pendientes.

Salvador martí, experto en