Argentina (University of San Andrés) Fredi Vivas & the Fascination with Understanding How Machines “Think”

The required topic is still ChatGPT. A few months have passed since its irruption in November of last year, but Artificial Intelligence wins the talks in classrooms, offices, desktops. The truth is that AI has been around for decades; at least since the 50s. But it was not until the “generative” intelligence appeared (the G of ChatGPT) that it became widespread and gained this relevance.

One of the references in the subject is Fredi Vivas, author of How do machines think?, which already from its cover, in which a robot assumes the pose of Rodin’s thinker, proposes a controversial reading, but not uncomfortable. What are the limits of AI? What are its risks? What’s the best way to take advantage of it? How to develop AI responsibly? Some of the questions that Vivas asked himself when publishing it and that today return with more urgency than ever. The book was published by Galerna; the same one where The Empire of Algorithms, by Cecilia Danesi, comes out.

Within the framework of the cycle co-organized by Ticmas and the University of San Andrés, Fredi Vivas visited the Ticmas auditorium and spoke about the ghost in the machine.

—Without the release of ChatGPT, without that project that was linked to Microsoft and Elon Musk, artificial intelligence would still be a subject of science fiction?

“Maybe. The truth, artificial intelligence as a subfield of Computer Science, has been applied for a long time in a lot of environments. About fifteen or twenty years ago, it has been implemented in companies. But the reality is that ChatGPT got one million users in five days. That is an indicator that shows you the interest and democratization proposed by OpenIA, which is the company that created ChatGPT headed, at that time, by Elon Musk and Microsoft. Then Elon leaves and a whole conversation comes.

—OpenAI gives the idea of being an open project.

—They wanted to democratize access. Then it became not so open: when they start charging you for a service, we could say that they are running a bit the purpose as a company. But we can assure you that the fact that anyone can enter for free to use a tool with artificial intelligence that is novel. It never happened that anyone could access a tool and interact with artificial intelligence. In my case, which has been working on this for 12 years or so, we saw it develop, but it is not the same. Here we are talking about platforms with tremendously powerful capabilities put in the hands of millions of people.

The fascinating thing about artificial intelligence is that programmers don’t have complete control of what it makes, and that the Prompt Engineering career—the command given to AI—is perhaps more important than programming.

“I have a controversy there. Prompting is an order given to artificial intelligence. For example, we can ask an image to create a panda bear dancing on Mars. Now, imagine what may happen in the next few years, when that prompt is no longer written. Years? Months, weeks: I don’t know anymore. Imagine that this happens to be integrated into the voice and that you, instead of having to write, talk to Alexa, Siri, Ok Google, any of those and say “Give me a Borges-style text about such a thing”. So where is prompting engineering going to be? It’s going to become something else. One of the things I played on in my book is that artificial intelligence is going to be diluted conceptually, and it’s going to get into all the others. So the concept of artificial intelligence is going to change. I imagine that ChatGPT disappears and is embedded in other things. For example, that it is associated within your mail. The prompting could disappear.

—Where is artificial intelligence developed? How many intelligences are there?

“The question is good. For those who have initiatives to learn how to develop artificial intelligence: you can do it at home with a programming language called Python. Free of charge. You don’t need anything. The expensive and complex thing is training with data. What does ChatGPT have advantage over all other things: that it has a training with a lot of data. He accessed all of Wikipedia, 17 billion web pages, all the programming blogs in the world. It is as if I had read everything that exists in humanity and is digitized…

—Es un gran servidor, un mega cerebro.

—… pero quién paga la tecnología para el entrenamiento de los datos. Esa es la pregunta. Cuando empezamos a hablar del modelo GPT con mi equipo de investigación, ellos decían que nosotros lo podríamos haber hecho, pero cuánto nos hubiese salido. Todos podemos desarrollar una inteligencia artificial. De hecho, yo conozco gente en Argentina que está generando unas al estilo ChatGPT y funcionan bien. El problema es el costo del entrenamiento. Eso se procesa en la nube —ahí va tu pregunta sobre dónde está todo eso—. Por eso la alianza con Microsoft, que tiene una nube propia, que es Azure, y eso te explica como funciona técnicamente.

—Está Microsoft, pero, si de algún lado debería haber salido ChatGPT, tendría que haber sido de Google. ¿No?

—En el 2017, Google inventa la tecnología Transformer, que es el tipo de red neuronal artificial que estamos viendo hoy. Google tiene datos digitales desde el 98 en adelante. Por lo tanto, cuando muchos dicen que no hay chance de que nadie alcance OpenAI, yo pienso que Google tiene datos desde aquella época y tiene toda esta capacidad técnica. Sin duda, Bard va a ser un gran competidor. Y Bard está basado en el modelo LaMDA, que, no sé si te acordás, fue aquello con lo que un ingeniero dijo que tiene vida propia.

—Vayamos a esa vida propia. Con las declaraciones de Yuval Harari y el manifiesto de los científicos para no seguir explorando la inteligencia artificial, ¿qué tan peligrosa es la inteligencia artificial?

—Cualquier inteligencia no humana levanta sospechas; quizás nosotros creemos que la inteligencia es solo patrimonio humano. Hay que ser cautos y decir que la inteligencia artificial no es una inteligencia que pueda sentir emociones, ni que pueda tener algo parecido a una conciencia —aunque no sepamos bien qué es la conciencia—. A veces uno usa conceptos como “aprendizaje” o “pensar” que son conceptos de la humanidad. Uno lo utiliza para simplificar, pero las máquinas no piensan ni aprenden. Hacen algo similar, entienden el entorno para simular un tipo de inteligencia, pero es eso justamente: una simulación. Antes nos parecía imposible. Esa carta a mí me yo la leí y estuve bastante atento al tema tiene dos lecturas una lectura es lo que vos dijiste y lol más como competidor está lanzando una competencia entonces él pretendía frizar los desarrollos. La carta de Elon Musk pretendía frizar los modelos de lenguaje gigantes —donde adentro está GPT— porque todavía no entendemos el impacto que va a tener en la sociedad, en los trabajos, en la legislación. Recordarás el caso de Cambridge Analytica: cuando debaten con Mark Zuckerberg se notaba que no entendían lo que estaban preguntando.

—Exactamente lo mismo que pasó con TikTok.

—Y va a seguir pasando. Por eso debería ser obligatorio un entrenamiento. No solo para los legisladores, sino para toda la sociedad en general. Estamos frente a una herramienta que puede ser usada para bien como para mal. Creo que, como cualquier disrupción, y estamos en el medio de una revolución industrial, además de una revolución de la economía y el conocimiento, creo que requiere de un involucramiento. No solo de los tecnólogos, sino de otros tipos de actores también.

—Volviendo a Cambridge Analytica y Mark Zuckerberg, recuerdo a los senadores de Estados Unidos hablándole a Zuckerberg, y todos caían en el mismo estereotipo “Necesitamos un conjunto de nerds que vengan a explicarnos”, decían. La idea de que un senador hable de un nerd en lugar de un técnico o un especialista también es grave.

—Sí, y de hecho mi empresa, RockingData, tiene perfiles diferentes: desde filósofos, que desarrollan este tipo de iniciativas pensando cómo impactar o disminuir los sesgos de la inteligencia artificial, pero también necesitamos gente que sepa de las leyes, de política, de psicología. Hoy vemos aplicaciones en todo tipo de industria: cómo hacemos para que todas esas herramientas sean bien canalizadas. Ese es uno de los grandes desafíos que se está planteando.

—¿Qué es la compañía X de Elon Musk?

—Vi los videos de Elon Musk, donde hablaba de frenar la inteligencia artificial y, en realidad, también dice que la IA tiene un montón de usos buenos y que, de hecho, la usa en Tesla. Entonces, está claro que no podía frenar la inteligencia artificial porque tiene empresa que hace autos que se manejan con inteligencia artificial. Con esta empresa, él estaba buscando crear desarrollos ética y responsablemente hechos. No hay mucha materia escrita sobre el tema. Lo único que hay es un tratado, un marco de trabajo, que hizo la UNESCO hace un año. Es un estudio que hicieron en 150 países durante dos años viendo cuáles eran las buenas prácticas de implementación de inteligencia artificial. Antes de eso, vos creabas un proyecto de inteligencia artificial y tenías que imaginarte cuáles eran las cuestiones para prestar atención. Si, por ejemplo, hacías una app que usa inteligencia artificial para transferir dinero y operar con la voz, ¿me va a entender si soy disléxico o si soy un anciano? Son debates nuevos y es importante tenerlos.

—¿No puede darse que la inteligencia artificial resuelva tantas tareas que se burocratice y, al final, sólo sean robots hablando entre sí?

—Uno tiende a pensar en un robot como un ser físico. Tipo Terminator. La realidad es que el mundo está lleno de robots. Cuando comprás algo en la calle y transferís dinero a otra cuenta. Hay un robot haciendo eso. Un robot te recomienda películas en la plataforma de contenido; un robot te ayuda a llegar a tu casa con Waze. Son robots digitalizados, robots de inteligencia artificial. Hace poco hablaba con Diego Pereyra…

—Autor de La salud del futuro.

“Yes. With him I always learn. It tells you that if there is an accident, it takes 22 minutes to load the data into the system. And I think that when you ask it takes two minutes. And you have real-time traceability of food, but if you ask for an ambulance, no. With Diego we did a couple of years ago a very interesting project to predict cases of COVID in the Güemes clinic – and it could be dengue or any other pathology. It is a super concrete case, which, whether or not it is perfect, is much better than having no idea what can happen. There we are talking about super concrete cases of applied artificial intelligence.

—Why are we so fascinated to know how machines think?

—I think it triggers our curiosity. There is a very interesting phrase, which says: “Any sufficiently advanced technology is indistinguishable from magic.” If we brought someone from a hundred years ago and sat them down to chat with ChatGPT, I wouldn’t believe it. I couldn’t believe there’s a machine processing all that. That’s why it’s important to learn: when you know something, it helps you lose your fear.