“OK, computador”: la visión de la mujer que lidera a ChatGPT

Para escribir este artículo, tenía muchas preguntas, así que acudí a ChatGPT. Empecé por consultarle qué es ChatGPT, y me dijo: “Es un gran modelo de lenguaje desarrollado por OpenAI. Es un tipo de programa de inteligencia artificial (IA) diseñado para generar texto similar al humano basado en un mensaje o entrada determinada […]”. Eso lo hablamos en inglés.

Le pregunté lo mismo en español, y la última parte de la respuesta me pareció mejor esta vez, pues da una idea más clara o específica de los usos que puede tener: “ChatGPT se ha utilizado en una amplia variedad de aplicaciones, desde asistentes virtuales y ‘chatbots’ hasta análisis de texto y generación de texto creativo”.

Aunque la respuesta de todas formas se queda corta, lo de “amplia variedad” es en serio. El problema que muchos ven alrededor de ChatGPT es el excesivo o inadecuado uso que se le puede dar a una herramienta como esta, que ha logrado aprobar difíciles exámenes de admisión universitaria y sido consultada para dar conceptos en fallos judiciales, entre muchos otros casos.

Le pregunté para qué no debería ser usado, y su advertencia, por supuesto, fue parecida a la que hizo la mujer que lidera el equipo que creó ChatGPT. Se trata de Mira Murati, ingeniera estadounidense de ascendencia india nacida en 1988. Treinta años más tarde llegó a OpenAI. Pasó antes por Goldman Sachs, Zodiac Aerospace y Tesla, donde fue gerente de producto del Modelo X.

Le puede interesar: ChatGPT ya está incorporado en el buscador Bing de Microsoft, así lo puede usar

Al no lograr una entrevista con Murati, opté por preguntarle a ChatGPT por ella. Me respondió que no conoce a todas las personas del mundo, que le diera más contexto. Le dije que me refería a la directora de tecnología (CTO) de OpenAI. Entonces replicó que hasta donde sabía Greg Brockman ostentaba ese puesto.

Pero no: Brockman es cofundador de la compañía (que tuvo entre sus creadores a Elon Musk y Sam Altman, actual director ejecutivo) y su presidente desde 2015. Luego de indagarle sobre lo mismo de distintas formas, finalmente me explicó que con su conocimiento, con corte a septiembre de 2021, el CTO era Brockman. Quizá la confusión surgió de ahí, pues Murati llegó al cargo en 2022.

Como escribió Kevin Roose en “The New York Times”, ChatGPT “no cita sus fuentes y tiene problemas para incorporar información o acontecimientos actualizados”, algo que sí se espera del chat de Bing, el motor de búsqueda de Microsoft, empresa que desde hace varios años apoya a OpenAI. Con ese nuevo desarrollo podrían finalmente destronar a Google (que también anunció su propia IA).

En todo caso, en el ejercicio con el “bot” quedaron en evidencia varios de los puntos que Murati señala. En una entrevista con la revista “Time” este mes, explicó que, al consistir en “una gran red neuronal que ha sido entrenada para predecir la siguiente palabra”, los desafíos con ChatGPT son parecidos a los que hay con modelos semejantes: básicamente que pueden inventarse cosas.

Por eso, en su respuesta, el sistema me alertaba de que fuera usado “con precaución y evitar depender de él para la toma de decisiones críticas o aplicaciones donde la precisión y la empatía son cruciales”. Es decir, no está diseñado para reemplazar el criterio humano, pues, además, los datos usados para su entrenamiento pueden tener sesgos.

Le puede interesar: Revistas científicas prohíben que ChatGPT figure como coautor de estudios

Cuando John Simons, quien condujo la entrevista en “Time”, le pidió a Murati que dijera una canción que la identifique o inspire, escogió “Paranoid Android”, de Radiohead. Es la segunda canción del álbum “OK Computer” (1997), título que alude a la novela de ciencia ficción “Guía del autoestopista galáctico” (1979), de Douglas Adams.

La expresión es del momento en que la nave reconoce que no puede defenderse de un ataque con misiles. “OK, computador: quiero total control manual”, le responde el presidente galáctico, al mando. Como reseñó Andy Greene en la revista “Rolling Stone”, esa frase marca el punto en la narración en que “los humanos se salvan al retomar el control de las máquinas”.

“No es lo más edificante, pero es hermoso y estimulante”, comentó Murati sobre la canción, que su autor, Thom Yorke, escribió en un intento por “reconectarse” con otros seres humanos usando metáforas o referencias al mundo tecnológico. Y es precisamente eso lo que parece clave para no perder el control de las máquinas: el diálogo entre los seres humanos.

Murati sugiere que es necesario ser conscientes de que la tecnología no es solo un asunto de ingenieros. Reconoce que los desarrolladores son “un pequeño grupo de personas” que necesitan más retroalimentación y perspectivas en vista de todas las implicaciones sociales, éticas y filosóficas que generan los desarrollos como los del equipo que lidera.

“Es importante que traigamos [a la discusión] diferentes voces, como filósofos, científicos sociales, artistas y personas de las humanidades”, dijo en la entrevista con “Time”. Entre esos, agrega, también deben estar los reguladores y gobiernos.

Lea también: Chat GPT aprobó examen de admisión en universidad de Estados Unidos

Como si fuera poco, ante la pregunta de Simons sobre una película que permita conocerla o que la inspire, mencionó “2001: Odisea del espacio”, de Stanley Kubrick. “Sigue agitando mi imaginación”, propósito que parece haberse materializado en Dall-e, el otro gran desarrollo de OpenAI, anterior a ChatGPT.

El sistema, que obtuvo su nombre de la mezcla entre el apellido del artista Salvador Dalí y el robot de la película “Wall-e”, no solo crea imágenes a partir de una descripción, sino que, por ejemplo, puede “imaginarse” el entorno que tendría un cuadro o dibujo ya existente. “Es una extensión de la imaginación sin los límites de un lienzo o un papel”, como dijo la CTO en “The Daily Show”.

En otro ejercicio de imaginación, Murati se ha referido a los alcances de un desarrollo como ChatGPT. “Tiene el inmenso potencial de ayudarnos con una educación personalizada”, comentó para “Time”. Se refiere a que, dado que todas las personas venimos de contextos distintos, no tiene mucho sentido que aprendamos de la misma forma.

“Con herramientas como ChatGPT, se puede conversar sin cesar para comprender un concepto de una manera que se adapte a tu nivel de comprensión”, estimó. Frente al hecho de que la herramienta haya sido prohibida en centros educativos (básicamente porque puede hacer todo el trabajo), insistió en que el problema no es la tecnología, sino lo que se haga con ella.

Esta ingeniera, por cierto, ha colaborado con espacios como los de Geek Girl X, que buscan fomentar la participación de las mujeres y niñas en el mundo de la tecnología, una industria que, en sus palabras, tiene la capacidad de “dar forma a la sociedad” y viceversa, pero en la que la mitad de esa sociedad está subrepresentada.

Sobre la IA, para muchas personas, como señalaba Roose en su columna, “hay dudas legítimas sobre la rapidez con la que se está desarrollando y desplegando toda esta tecnología”. Pero también coinciden en que OpenAI, que tiene alrededor de 400 empleados, ha iniciado “la carrera armamentista de la IA”, con jóvenes como Murati al frente.

Para escribir este artículo, tenía muchas preguntas, así que acudí a ChatGPT. Empecé por consultarle qué es ChatGPT, y me dijo: “Es un gran modelo de lenguaje desarrollado por OpenAI. Es un tipo de programa de inteligencia artificial (IA) diseñado para generar texto similar al humano basado en un mensaje o entrada determinada […]”. Eso lo hablamos en inglés.

Le pregunté lo mismo en español, y la última parte de la respuesta me pareció mejor esta vez, pues da una idea más clara o específica de los usos que puede tener: “ChatGPT se ha utilizado en una amplia variedad de aplicaciones, desde asistentes virtuales y ‘chatbots’ hasta análisis de texto y generación de texto creativo”.

Aunque la respuesta de todas formas se queda corta, lo de “amplia variedad” es en serio. El problema que muchos ven alrededor de ChatGPT es el excesivo o inadecuado uso que se le puede dar a una herramienta como esta, que ha logrado aprobar difíciles exámenes de admisión universitaria y sido consultada para dar conceptos en fallos judiciales, entre muchos otros casos.

Le pregunté para qué no debería ser usado, y su advertencia, por supuesto, fue parecida a la que hizo la mujer que lidera el equipo que creó ChatGPT. Se trata de Mira Murati, ingeniera estadounidense de ascendencia india nacida en 1988. Treinta años más tarde llegó a OpenAI. Pasó antes por Goldman Sachs, Zodiac Aerospace y Tesla, donde fue gerente de producto del Modelo X.

Le puede interesar: ChatGPT ya está incorporado en el buscador Bing de Microsoft, así lo puede usar

Al no lograr una entrevista con Murati, opté por preguntarle a ChatGPT por ella. Me respondió que no conoce a todas las personas del mundo, que le diera más contexto. Le dije que me refería a la directora de tecnología (CTO) de OpenAI. Entonces replicó que hasta donde sabía Greg Brockman ostentaba ese puesto.

Pero no: Brockman es cofundador de la compañía (que tuvo entre sus creadores a Elon Musk y Sam Altman, actual director ejecutivo) y su presidente desde 2015. Luego de indagarle sobre lo mismo de distintas formas, finalmente me explicó que con su conocimiento, con corte a septiembre de 2021, el CTO era Brockman. Quizá la confusión surgió de ahí, pues Murati llegó al cargo en 2022.

Como escribió Kevin Roose en “The New York Times”, ChatGPT “no cita sus fuentes y tiene problemas para incorporar información o acontecimientos actualizados”, algo que sí se espera del chat de Bing, el motor de búsqueda de Microsoft, empresa que desde hace varios años apoya a OpenAI. Con ese nuevo desarrollo podrían finalmente destronar a Google (que también anunció su propia IA).

En todo caso, en el ejercicio con el “bot” quedaron en evidencia varios de los puntos que Murati señala. En una entrevista con la revista “Time” este mes, explicó que, al consistir en “una gran red neuronal que ha sido entrenada para predecir la siguiente palabra”, los desafíos con ChatGPT son parecidos a los que hay con modelos semejantes: básicamente que pueden inventarse cosas.

Por eso, en su respuesta, el sistema me alertaba de que fuera usado “con precaución y evitar depender de él para la toma de decisiones críticas o aplicaciones donde la precisión y la empatía son cruciales”. Es decir, no está diseñado para reemplazar el criterio humano, pues, además, los datos usados para su entrenamiento pueden tener sesgos.

Le puede interesar: Revistas científicas prohíben que ChatGPT figure como coautor de estudios

Cuando John Simons, quien condujo la entrevista en “Time”, le pidió a Murati que dijera una canción que la identifique o inspire, escogió “Paranoid Android”, de Radiohead. Es la segunda canción del álbum “OK Computer” (1997), título que alude a la novela de ciencia ficción “Guía del autoestopista galáctico” (1979), de Douglas Adams.

La expresión es del momento en que la nave reconoce que no puede defenderse de un ataque con misiles. “OK, computador: quiero total control manual”, le responde el presidente galáctico, al mando. Como reseñó Andy Greene en la revista “Rolling Stone”, esa frase marca el punto en la narración en que “los humanos se salvan al retomar el control de las máquinas”.

“No es lo más edificante, pero es hermoso y estimulante”, comentó Murati sobre la canción, que su autor, Thom Yorke, escribió en un intento por “reconectarse” con otros seres humanos usando metáforas o referencias al mundo tecnológico. Y es precisamente eso lo que parece clave para no perder el control de las máquinas: el diálogo entre los seres humanos.

Murati sugiere que es necesario ser conscientes de que la tecnología no es solo un asunto de ingenieros. Reconoce que los desarrolladores son “un pequeño grupo de personas” que necesitan más retroalimentación y perspectivas en vista de todas las implicaciones sociales, éticas y filosóficas que generan los desarrollos como los del equipo que lidera.

“Es importante que traigamos [a la discusión] diferentes voces, como filósofos, científicos sociales, artistas y personas de las humanidades”, dijo en la entrevista con “Time”. Entre esos, agrega, también deben estar los reguladores y gobiernos.

Lea también: Chat GPT aprobó examen de admisión en universidad de Estados Unidos

Como si fuera poco, ante la pregunta de Simons sobre una película que permita conocerla o que la inspire, mencionó “2001: Odisea del espacio”, de Stanley Kubrick. “Sigue agitando mi imaginación”, propósito que parece haberse materializado en Dall-e, el otro gran desarrollo de OpenAI, anterior a ChatGPT.

El sistema, que obtuvo su nombre de la mezcla entre el apellido del artista Salvador Dalí y el robot de la película “Wall-e”, no solo crea imágenes a partir de una descripción, sino que, por ejemplo, puede “imaginarse” el entorno que tendría un cuadro o dibujo ya existente. “Es una extensión de la imaginación sin los límites de un lienzo o un papel”, como dijo la CTO en “The Daily Show”.

En otro ejercicio de imaginación, Murati se ha referido a los alcances de un desarrollo como ChatGPT. “Tiene el inmenso potencial de ayudarnos con una educación personalizada”, comentó para “Time”. Se refiere a que, dado que todas las personas venimos de contextos distintos, no tiene mucho sentido que aprendamos de la misma forma.

“Con herramientas como ChatGPT, se puede conversar sin cesar para comprender un concepto de una manera que se adapte a tu nivel de comprensión”, estimó. Frente al hecho de que la herramienta haya sido prohibida en centros educativos (básicamente porque puede hacer todo el trabajo), insistió en que el problema no es la tecnología, sino lo que se haga con ella.

Esta ingeniera, por cierto, ha colaborado con espacios como los de Geek Girl X, que buscan fomentar la participación de las mujeres y niñas en el mundo de la tecnología, una industria que, en sus palabras, tiene la capacidad de “dar forma a la sociedad” y viceversa, pero en la que la mitad de esa sociedad está subrepresentada.

Sobre la IA, para muchas personas, como señalaba Roose en su columna, “hay dudas legítimas sobre la rapidez con la que se está desarrollando y desplegando toda esta tecnología”. Pero también coinciden en que OpenAI, que tiene alrededor de 400 empleados, ha iniciado “la carrera armamentista de la IA”, con jóvenes como Murati al frente.