Sort of a a match that kind of a flame. Like i was very shocked by the extent how quickly went viral.

Pero qué significa que se puede hacer? Para evitarlo?

Vamos a consultarlo con la experta en tecnología de la información, claudia flores xavi claudia. Gracias por estar con nosotros.

Cuando escuchamos estas advertencias de jacob coxon, por ejemplo, que puede acabar con la humanidad. A qué se refiere?

Pues simplemente. A que nosotros actualmente no entendemos precisamente cómo controlar esta tecnología.

Realmente lo que se está haciendo es desarrollarse sin los valores éticos humanos y por lo tanto, cuando tú le das un objetivo lo va a intentar cumplir, sin importar si nos afecta a nosotros. A eso se está refiriendo.

Qué tan viable es esto y qué tanto correspondería a teorías de la conspiración? Mira, yo creo que tiene que ver más con el potencial de la tecnología que con lo que realmente podría pasar.

Por ejemplo, un ejemplo sería que tú le das a la tecnología o una inteligencia artificial el objetivo de que termine con la contaminación en el mundo. Eso implicaría que está controlando infraestructuras físicas e infraestructuras digitales y determina que el mejor, la mejor forma de hacerlo es que se acabe con todo lo que contamina, como autos, aviones, etcétera y entonces empiece como a apagar toda esa infraestructura.

Es por eso que yo siento que es un poco más exagerado, porque realmente sería poco probable que nosotros demos tanto control a esta tecnología. Cuando hablamos de que no corresponde esta tecnología con los valores éticos que entendemos nosotros, qué filtros se podrían poner o qué se podría hacer?

Porque esto no es una legislación local, es un tema global. Claro, y es un tema leyes.

Tú no puedes crear una ley, decirle a las compañías que logren esto es un tema de investigación que realmente si se está llevando investigación para tratar de reentrenar los modelos o entrenarlos desde el principio, alimentándolos con ciertas instrucciones y datos para que estén más alineados a nosotros. Pero también es muy cierto que estas compañías están atrapadas en esta carrera de ser los mejores y a lo mejor sí están invirtiendo un poco en la seguridad, pero no como como los sociedad quisiera que invirtieran.

Y eso es lo que está pasando. Se tiene que hacer más investigación, más pruebas antes de entrenarlas y después monitoreadas de que realmente estén, no estén actuando en contra de los valores humanos.

Claudia quién regula a estas empresas? Quién les dice hasta dónde pueden llegar?

Nadie. Y es que esto empezó como una carrera en donde las empresas empezaron a competir entre sí y realmente nos dejaron como a la sociedad, como espectadores, igual a los gobiernos, como espectadores.

Y entonces estamos en esta etapa en que entre todos, cada quien desde su desde su lado, está tratando de entender cómo podemos llegar a un consenso, porque como te digo, no es de que crea en una ley que diga ya que no haga esto es un tema como de de colaboración entre todos para monitorearlo, para que las empresas sean transparentes, para que los gobiernos tengan inclusive personas capacitadas, que sean capaces de entender esta tecnología y de trabajar en conjunto con las empresas. Claudia.

Me llama poderosamente la atención que gente como bill gates sean los que hagan estos llamados , cuando ellos son responsables también de lo que está sucediendo. Claro, y yo creo que ahí hay un poco, un poco de contradicción, porque como tú dices, las empresas mismas son tienen el presupuesto para este tipo de desarrollo y a la a la forma siento que es entre entre un llamado a que a lo mejor las demás también empiecen a tampoco también un poco de llamado para decir mira que también son mis modelos, porque debemos de entender que el de de trasfondo de esto es económico.

Ellas también están muy interesadas en que todo mundo crea que son las mejores en lo que hacen. Digo, no estoy diciendo ni minimizando de que estos modelos no sean realmente potentes, pero también creo que hay un poquito ahí de juego en el tema de marketing, sobre todo porque sabemos que estas empresas van a salir a bolsa muy pronto.

Yo veo flores cuando decimos que esta inteligencia es capaz de seguir evolucionando por sí misma sin la entrada del humano. Qué quiere decir en términos para que lo entendamos?

Pues mira, es un tema un poco complicado, pero realmente las las las inteligencias artificiales se auto mejoran en el sentido de que, por ejemplo, si tú tienes un problema, vamos a hacerlo algo muy muy cuantitativo, un problema matemático. Y tú le dices inteligencia artificial.

A ver, resuélvelo. La inteligencia artificial puede saber si es correcto o no, yendo por ejemplo a internet y buscando la respuesta y te dice no, no fue correcto.

Entonces se la respuesta correcta era esta y empieza a hacer como un ciclo evolutivo para automejorarse. Ese sería como un ejemplo clásico de lo que es el auto auto mejoramiento de estas inteligencias artificiales para temas como que son fáciles de comprobar, hay otros en los que no funciona así?

Claudia y para concluir, muchas personas piensan cuando hablamos de inteligencia artificial, que estás hablando de sistemas como chatgpt. En realidad, qué es la inteligencia artificial?

Porque está en todas las áreas de nuestra vida donde está y no la vemos. Pues es que está ahora sí que está en todos lados.

Donde no, no la vemos. Lo más, lo más al público que ha llegado es gpt, decisiones.

Cuando tú vas al banco y pides un crédito, cuando tú aplicas a un trabajo y el filtros que empiezan a verificar tu perfil para ver si eres apto o no al trabajo, eso es. Yo creo que es más que si acaba con la humanidad.

El peligro está más en cómo interactúa con nosotros cuando tiene ciertas lo que le dicen ciertos sesgos. Ahí yo creo que está un peligro más tangible que nos afecta a todos como personas desde ahorita, no en diez años ya nos está afectando y creo que ese es un importante de si en un futuro va a acabar o no con la humanidad,