GOOGLE SUSPENDE SU GENERADOR DE IMÁGENES DE IA POR ERRORES RACIALES Y DE GÉNERO

Google anunció que suspendería la creación de imágenes de personas en su herramienta de inteligencia artificial (IA) generativa Gemini, tras “problemas recientes” con esta funcionalidad.

“Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”, declaró la empresa en un comunicado oficial.

El incidente que provocó esta acción ocurrió cuando un usuario de la plataforma X (anteriormente Twitter) publicó imágenes del resultado proporcionado por Gemini después de solicitar la generación de una imagen de un soldado alemán de 1943.

Según el usuario identificado como John L., la inteligencia artificial generó cuatro imágenes de soldados: una era blanca, otra negra y dos eran mujeres de color. Mencionó que “@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó”.

Este incidente no es aislado, ya que las grandes empresas tecnológicas han sido criticadas en repetidas ocasiones por lanzar productos de inteligencia artificial antes de que se sometan a pruebas adecuadas. Google, en particular, tiene un historial irregular en el lanzamiento de productos de IA.

No es la primera vez que la empresa se ve obligada a pedir disculpas. Hace aproximadamente un año, Google se disculpó después de que su chatbot recién lanzado, Bard, mostrara respuestas incorrectas a preguntas básicas sobre astronomía.