“Los humanos tenemos un cerebro defectuoso”

Chema Alonso, considerado el mejor hacker de España y director digital de Telefónica, ha participado en el congreso Salamanca Tech Summit, donde ha hablado sobre Inteligencia Artificial (IA) generativa y ciberseguridad. Durante su ponencia, ha repasado desde los orígenes de la computación y toda la evolución que se ha vivido hasta llegar a los niveles tecnológicos de hoy en día. Además, ha destacado las enormes ventajas que puede ofrecer esta tecnología, así como los riesgos y amenazas que supone, contra las cuales hay cada vez una mayor especialización.  

Tal y como ha explicado Chema Alonso, la IA generativa basa su funcionamiento en el empleo de dos redes neuronales que compiten entre sí. Por un lado está el generador, cuya tarea consiste en crear datos falsos, y por otro está el discriminador, que se encarga de distinguir esos datos falsos de los reales. En resumidas cuentas, el principal objetivo pasa por que el generador engañe al discriminador y produzca unos datos tan realistas que este último no sea capaz de diferenciarlos. “Hoy en día es imposible ganar a la IA al ajedrez, al tute, al póker… porque el generador ha sido entrenado para vencer al discriminador”, ha puesto como ejemplo.

Para llegar a este punto ha sido necesario un largo proceso de investigación y avances, que comenzaba en los años 50 con los inicios de las computadoras, e iba avanzando con el entrenamiento de datos, el big data o el cloud computing. En el año 2010 ya existía el algoritmo de aprendizaje, pero “lo que necesitamos es entrenarlo bien con datos, y para ello necesitamos tener los datos”, señalaba.

“Es en esa época, a partir de 2010, cuando la ciencia empieza a atacar los problemas más complejos, que son los que tienen que ver con las capacidades humanas”, añade. Asimismo, “desde julio de 2014 todo en lo que estamos trabajando es qué hacer para que el generador venza más rápido al discriminador”.

Si bien, advertía que estos avances también son utilizados por “los malos”, y señalaba algunos ejemplos como “los algoritmos que para hacer fake news solo pintan los labios de la persona para ponerlos con el mensaje que quieren decir, aunque esa persona no lo haya dicho nunca”, o “el algoritmo de cambiar la cara”, para el mismo fin.

Por si fuera poco, también ya es posible “crear humanos sintéticos, avatares hiperrealistas capaces de realizar tareas dentro de empresas”. En este sentido, apuntaba que “ya hay canales que ponen ‘humanos’ digitales a dar las noticias”. No obstante, al igual que con los avances anteriores, estas técnicas “también las utilizan los cibercriminales” y advertía: “cualquier persona que veas por una videoconferencia puede o no ser esa persona”.

Frente a todo ello, “ha aparecido en ciberseguridad una nueva profesión, que es la de ‘blade runners’, que se encargan de detectar a los estafadores que están realizando un ‘humano’ sintético para hacer cosas malas”. “Cada vez hay más técnicas de Deepfake, y nosotros tenemos que ir mejorando y entrenando los algoritmos para detectarlas”, concluía.

Alonso también ha hablado de las diferencias entre las capacidades de la IA y de los humanos. En este sentido, aseguraba que, “los humanos tenemos un cerebro defectuoso, que está pensado para un objetivo que es sobrevivir. Para tomar decisiones rápidas e inteligentes que maximicen la supervivencia, no está pensado para ser una base de datos de todo lo que experimentas”. Asimismo, dejaba claro que, “nuestro cerebro no está pensado para almacenar ninguna copia exacta de nada de lo que experimentamos, sino que guarda información difuminada”.

Finalmente, respecto a ChatGPT, Chema Alonso ha destacado las grandes ventajas y oportunidades que puede ofrecer, al tiempo que ha animado a utilizar esta herramienta para fines lícitos. Sin embargo, ha avisado de que “los malos también lo están utilizando”, dejando claro que puede ser peligroso si no se hace un buen uso del mismo.