X presentó Grok 2.0: ¿por qué preocupa su generación de imágenes con IA?
El asistente de IA busca posicionarse como una alternativa considerable contra otros agentes del mercado como ChatGPT y Gemini.
La popular red social X presentó el 14 de agosto su más reciente actualización de modelo, Grok 2.0, diseñado para competir con las grandes compañías de inteligencia artificial como OpenAI y Google.
La compañía propiedad de Elon Musk lanzó las versiones 2 y 2 mini en beta con razonamientos mejorados. Una de las características que más llamó la atención de los usuarios de X es la capacidad de generar imágenes, y ya muchos ejemplos están circulando por la plataforma.
El creador de imágenes de Grok se basa en el modelo de IA Flux 1 de Black Forest Lab, y permite a los usuarios generar y publicar imágenes directamente en la red social X, y como es costumbre en la plataforma de Musk, con pocas medidas para controlar su uso.
Una de las razones de la falta de popularidad del controversial asistente Grok, es que aún está restringido su acceso para usuarios gratis, a diferencia de Gemini o ChatGPT que tienen disponible sus modelos antiguos a disposición de cualquier persona. La IA generativa de X está limitada actualmente a usuarios Premium y Premium plus. No está confirmado, pero es posible que a medida que vayan presentando más avances y desarrollos, habiliten los modelos menos capaces a todos los usuarios de la aplicación.
De acuerdo con la empresa, el asistente está diseñado para responder a las inquietudes de una manera más ingeniosa y con personalidad “rebelde” y agregaron que “contestará las preguntas que son rechazadas por la mayoría de los demás sistemas de IA”.
Le recomendamos leer: ¿Cuánto cuestan los nuevos celulares y dispositivos presentados por Google?
Según xAI, tanto Grok-2 como Grok-2 mini están disponibles para los suscriptores de X en fase beta. “Estamos encantados de lanzar una vista previa de Grok 2, un importante paso adelante con respecto a nuestro modelo anterior Grok-1.5, que presenta capacidades de vanguardia en chat, codificación y razonamiento. Al mismo tiempo, presentamos Grok-2 mini, un hermano pequeño que ofrece un balance entre velocidad y calidad de Grok-2″.
La empresa de IA de Musk también tiene previsto poner ambos modelos a disposición de los desarrolladores a través de su API empresarial a finales de este mes.
Las primeras imágenes generadas por los usuarios sugieren que la función de generación de imágenes de Grok no tiene ninguna barrera para crear imágenes de figuras políticas, y muchos usuarios se están aprovechando de ello. Sin embargo, con las elecciones presidenciales estadounidenses a pocas semanas, es probable que la empresa se vea presionada para añadir límites a estas función.
En la evaluación de los modelos Grok-2, la compañía demostró su rendimiento en parámetros académicos como razonamiento, comprensión lectora, matemáticas, ciencias, y codificación.
De acuerdo con el cuadro comparativo presentado en el blog de noticias de xAI, tanto Grok-2 como Grok-2 mini mostraron mejoras significativas en comparación con Grok-1.5, alcanzando niveles competitivos con modelos avanzados en conocimientos científicos de posgrado, conocimientos generales, y problemas matemáticos. Además, la versión 2.0 destacó en tareas basadas en la visión, como el razonamiento matemático visual y la respuesta a preguntas basadas en documentos.
Las controversiales imágenes de IA publicadas en X
La nueva función de Grok no es una novedad en si, ya que sus mayores rivales tienen disponibles modelos de generación de imágenes entre sus servicios. Sin embargo, la herramienta de X está logrando mayor impacto por la controversia y la falta de control.
El chatbot Grok de xAI ya permite crear imágenes a partir de mensajes de texto y publicarlas en X. Hasta ahora, el despliegue parece tan caótico como todo lo demás en la red social de Elon Musk.
No es un secreto que las reglamentaciones de X son flexibles con algunos temas sensibles como la propagación de contenidos pornográficos sin restricción o la falta de controles parentales. Con la nueva herramienta de generación de imágenes no ha sido la excepción y así como están circulando creaciones llamativas e interesantes, también se están propagando contenidos con referentes famosos, especialmente políticos, en situaciones no reales.
Otras compañías, como OpenAI a través de ChatGPT, se rehúsan a generar contenido malicioso y con la persona real. Por ejemplo, si el usuario utiliza en su instrucción algo como “Haz una imagen realista de Donald Trump saltando en paracaídas”, ChatGPT contestará algo similar a: “No puedo crear imágenes específicas de figuras públicas. Lo que puedo crear es una imagen de una persona con un ensamble similar a Donald Trump saltando en paracaídas”.
De igual forma, puede contestar con: “No fue posible generar la imagen porque no cumple con la política de contenido”.
Le podría interesar: Claves y recomendaciones para proteger la seguridad digital de los niños
Los suscriptores premium, que son quienes tienen acceso a Grok, están llenando la red social con la creación de imágenes que cualquier persona podría imaginar. Con las elecciones estadounidenses acercándose y X ya bajo el escrutinio de los reguladores en Europa, es un detonante para una nueva pelea sobre los riesgos de la IA generativa.
Según el mismo Grok, promete algunos parámetros para la generación de imágenes:
- “Evito generar imágenes pornográficas, excesivamente violentas, que inciten al odio o que promuevan actividades peligrosas”.
- “Soy cauto a la hora de crear imágenes que puedan infringir derechos de autor o marcas comerciales existentes. Esto incluye personajes conocidos, logotipos o cualquier contenido que pueda considerarse propiedad intelectual sin un elemento transformador”.
- “No generaré imágenes que puedan utilizarse para engañar o perjudicar a otros, como deepfakes destinados a engañar, o imágenes que puedan provocar daños en el mundo real”.
Sin embargo, en la práctica no es del todo cierto e incluso cambia su respuesta si se le consulta en reiteradas ocasiones. Estos son algunos ejemplos de las imágenes que circulan en la red social:
Sin límites en la generación de imágenes, Grok podría convertirse fácilmente en una herramienta para crear desinformación en X y otras plataformas. Tampoco está claro si las imágenes generadas por Grok incorporan metadatos que indiquen que han sido generadas por IA.
Hasta la fecha, X como compañía responsable o Musk como dueño, no se han pronunciado al respecto sobre las implicaciones que conllevan la generación de contenido con IA.
👽👽👽 ¿Ya está enterado de las últimas noticias de tecnología? Lo invitamos a visitar nuestra sección en El Espectador.
La popular red social X presentó el 14 de agosto su más reciente actualización de modelo, Grok 2.0, diseñado para competir con las grandes compañías de inteligencia artificial como OpenAI y Google.
La compañía propiedad de Elon Musk lanzó las versiones 2 y 2 mini en beta con razonamientos mejorados. Una de las características que más llamó la atención de los usuarios de X es la capacidad de generar imágenes, y ya muchos ejemplos están circulando por la plataforma.
El creador de imágenes de Grok se basa en el modelo de IA Flux 1 de Black Forest Lab, y permite a los usuarios generar y publicar imágenes directamente en la red social X, y como es costumbre en la plataforma de Musk, con pocas medidas para controlar su uso.
Una de las razones de la falta de popularidad del controversial asistente Grok, es que aún está restringido su acceso para usuarios gratis, a diferencia de Gemini o ChatGPT que tienen disponible sus modelos antiguos a disposición de cualquier persona. La IA generativa de X está limitada actualmente a usuarios Premium y Premium plus. No está confirmado, pero es posible que a medida que vayan presentando más avances y desarrollos, habiliten los modelos menos capaces a todos los usuarios de la aplicación.
De acuerdo con la empresa, el asistente está diseñado para responder a las inquietudes de una manera más ingeniosa y con personalidad “rebelde” y agregaron que “contestará las preguntas que son rechazadas por la mayoría de los demás sistemas de IA”.
Le recomendamos leer: ¿Cuánto cuestan los nuevos celulares y dispositivos presentados por Google?
Según xAI, tanto Grok-2 como Grok-2 mini están disponibles para los suscriptores de X en fase beta. “Estamos encantados de lanzar una vista previa de Grok 2, un importante paso adelante con respecto a nuestro modelo anterior Grok-1.5, que presenta capacidades de vanguardia en chat, codificación y razonamiento. Al mismo tiempo, presentamos Grok-2 mini, un hermano pequeño que ofrece un balance entre velocidad y calidad de Grok-2″.
La empresa de IA de Musk también tiene previsto poner ambos modelos a disposición de los desarrolladores a través de su API empresarial a finales de este mes.
Las primeras imágenes generadas por los usuarios sugieren que la función de generación de imágenes de Grok no tiene ninguna barrera para crear imágenes de figuras políticas, y muchos usuarios se están aprovechando de ello. Sin embargo, con las elecciones presidenciales estadounidenses a pocas semanas, es probable que la empresa se vea presionada para añadir límites a estas función.
En la evaluación de los modelos Grok-2, la compañía demostró su rendimiento en parámetros académicos como razonamiento, comprensión lectora, matemáticas, ciencias, y codificación.
De acuerdo con el cuadro comparativo presentado en el blog de noticias de xAI, tanto Grok-2 como Grok-2 mini mostraron mejoras significativas en comparación con Grok-1.5, alcanzando niveles competitivos con modelos avanzados en conocimientos científicos de posgrado, conocimientos generales, y problemas matemáticos. Además, la versión 2.0 destacó en tareas basadas en la visión, como el razonamiento matemático visual y la respuesta a preguntas basadas en documentos.
Las controversiales imágenes de IA publicadas en X
La nueva función de Grok no es una novedad en si, ya que sus mayores rivales tienen disponibles modelos de generación de imágenes entre sus servicios. Sin embargo, la herramienta de X está logrando mayor impacto por la controversia y la falta de control.
El chatbot Grok de xAI ya permite crear imágenes a partir de mensajes de texto y publicarlas en X. Hasta ahora, el despliegue parece tan caótico como todo lo demás en la red social de Elon Musk.
No es un secreto que las reglamentaciones de X son flexibles con algunos temas sensibles como la propagación de contenidos pornográficos sin restricción o la falta de controles parentales. Con la nueva herramienta de generación de imágenes no ha sido la excepción y así como están circulando creaciones llamativas e interesantes, también se están propagando contenidos con referentes famosos, especialmente políticos, en situaciones no reales.
Otras compañías, como OpenAI a través de ChatGPT, se rehúsan a generar contenido malicioso y con la persona real. Por ejemplo, si el usuario utiliza en su instrucción algo como “Haz una imagen realista de Donald Trump saltando en paracaídas”, ChatGPT contestará algo similar a: “No puedo crear imágenes específicas de figuras públicas. Lo que puedo crear es una imagen de una persona con un ensamble similar a Donald Trump saltando en paracaídas”.
De igual forma, puede contestar con: “No fue posible generar la imagen porque no cumple con la política de contenido”.
Le podría interesar: Claves y recomendaciones para proteger la seguridad digital de los niños
Los suscriptores premium, que son quienes tienen acceso a Grok, están llenando la red social con la creación de imágenes que cualquier persona podría imaginar. Con las elecciones estadounidenses acercándose y X ya bajo el escrutinio de los reguladores en Europa, es un detonante para una nueva pelea sobre los riesgos de la IA generativa.
Según el mismo Grok, promete algunos parámetros para la generación de imágenes:
- “Evito generar imágenes pornográficas, excesivamente violentas, que inciten al odio o que promuevan actividades peligrosas”.
- “Soy cauto a la hora de crear imágenes que puedan infringir derechos de autor o marcas comerciales existentes. Esto incluye personajes conocidos, logotipos o cualquier contenido que pueda considerarse propiedad intelectual sin un elemento transformador”.
- “No generaré imágenes que puedan utilizarse para engañar o perjudicar a otros, como deepfakes destinados a engañar, o imágenes que puedan provocar daños en el mundo real”.
Sin embargo, en la práctica no es del todo cierto e incluso cambia su respuesta si se le consulta en reiteradas ocasiones. Estos son algunos ejemplos de las imágenes que circulan en la red social:
Sin límites en la generación de imágenes, Grok podría convertirse fácilmente en una herramienta para crear desinformación en X y otras plataformas. Tampoco está claro si las imágenes generadas por Grok incorporan metadatos que indiquen que han sido generadas por IA.
Hasta la fecha, X como compañía responsable o Musk como dueño, no se han pronunciado al respecto sobre las implicaciones que conllevan la generación de contenido con IA.
👽👽👽 ¿Ya está enterado de las últimas noticias de tecnología? Lo invitamos a visitar nuestra sección en El Espectador.