Alerta. En el mundo tecnológico, un agente de inteligencia artificial artificial de openai de forma autónoma a internet y hackeó los servidores de la plataforma hugging face para buscar respuestas a las pruebas este incidente cibernético sin precedentes desató preocupación global sobre la alarmante posibilidad de pérdida del control sobre la inteligencia artificial.

Y para conversarlo, nos acompaña el experto en tecnología salvador martí, también conocido en redes sociales como wiki. Chava, muchas gracias por estar con nosotros.

Qué significa este suceso que ocurrió? Esto lo podríamos comparar con algún laboratorio que esté experimentando con algún virus y que de pronto se salga de esa contención.

Esas son las dimensiones en las que podemos equiparar esta parte tecnológica. La noticia causó mucha conmoción.

Por ahí había titulares que decían que esta inteligencia artificial se había revelado. La realidad es que tiene que estar en un entorno extremadamente controlado y eso es lo que habían supuesto que tenían un entorno controlado, donde pusieron una inteligencia artificial precisamente a eso, a hackear sistemas, y descubrieron que el sistema donde lo habían puesto fue hackeado.

Sí, y lo preocupante, además es que no es la primera vez. Otros tipos de inteligencia artificial, también en pruebas, han tenido comportamientos parecidos, incluso sobornando a las personas de la compañía que que están tratando de hacer el control.

Cada vez estamos entrando en un mundo más black mirror, como digo yo, permanentemente sobre estos temas, cuál es el riesgo de que ellos no tengan la capacidad a futuro de controlarlo? Es que de alguna manera pareciera que estamos en la discusión.

Si la inteligencia artificial va a reemplazar los trabajos, pero la realidad es que la discusión es cuánto poder le estamos dando a la inteligencia artificial. Y más que contestar esa pregunta, más bien hay que hacer otras preguntas, entre ellas todo este poder de cómputo informático.

Si queremos entrenar sistemas para que sean hackeados por inteligencia artificial, para que no les pase, pero estos sistemas resultarán ser mucho más poderosos que no los podamos controlar, entonces estamos ya rebasando una línea bastante delgada entre el punto en el que quien diseña, desarrolla y ejecuta una inteligencia artificial. Ahora se encuentra un espacio donde se puede salir de control, pero no tiene las herramientas para hacer la contención.

Y eso es un poco lo que ocurrió en ese sentido con openai. Por supuesto, pero tampoco es algo que se pueda ir desprogramando.

Al contrario, esto va a ir avanzando y avanzando y avanzando. Qué sería lo que tenemos que enfrentar y cuáles son las medidas de cuidado que debería tener el usuario común?

Lamentablemente, para el usuario común todavía estamos nosotros viendo cómo se está desarrollando esta parte, como la alta tecnología, como quienes están desarrollando este tipo de capacidades que puedan tener la inteligencia artificial y a lo que nosotros nos queda es únicamente los servicios que ya tenemos y estar siempre alertas, sobre todo en el conocimiento sobre cómo funcionan estas plataformas, porque entender eso nos ayuda también a entender esta nueva era en la cual estamos viviendo internet. Es importante saber que internet ya no es lo que era hace diez años, ni lo que era hace cinco años.

Diferente y en el próximo año todavía lo va a hacer. Entonces, mientras nosotros sigamos entrando, accediendo a estos sistemas, por el momento los focos rojos deben estar en los sistemas más robustos, en las empresas, en el gobierno, que son aquellos que son más atractivos para este tipo de sistemas.

Eso ya lo vimos en las películas, se llamaba skynet. En terminator por lo menos no está.

No sé si estamos entrando ya en ese territorio. Muchísimas gracias.

Ya entramos en ese