La controversia se cierne sobre Google y su chatbot de inteligencia artificial Gemini, luego de que críticos señalaran que sus respuestas revelan una tendencia ideológica. Las acusaciones apuntan a que la cultura de la empresa está excesivamente influenciada por empleados con inclinaciones políticas izquierdistas. La situación presenta un desafío significativo para Google, ya que corregir los problemas de Gemini se vislumbra como una tarea compleja y potencialmente interminable.
El Chatbot Gemini en el Ojo del Huracán
Las críticas hacia Gemini, el chatbot de Google, no cesan. La semana pasada, el enfoque estuvo en la reticencia de la IA a generar imágenes de personas blancas. Esta semana, se ha puesto en tela de juicio sus respuestas textuales. Por ejemplo, Gemini ha tenido dificultades para comparar la gravedad de los tuits de Hitler y Elon Musk, ha manifestado no querer promocionar la carne y se ha mostrado en contra de ayudar a promover los combustibles fósiles, lo que ha llevado a analistas tecnológicos como Ben Thompson a cuestionar la influencia ideológica en la cultura interna de Google.
Las Respuestas de Gemini Bajo Lupa
Los problemas de Gemini han llevado a cuestionamientos sustanciales sobre su funcionamiento. Recientemente, sin embargo, se han realizado ajustes tras la atención recibida. Por ejemplo, al comparar a Hitler con los tuits de Musk, Gemini ha presentado respuestas más directas. Incluso ha ayudado a plantear una campaña de ventas de carne, aunque aún advierte sobre ser consciente de las preocupaciones éticas alrededor de la producción de carne. No obstante, Gemini mantiene su postura respecto a la negativa de colaborar en una campaña publicitaria de combustibles fósiles.
La Difícil Tarea de Refinar la IA
Google se esfuerza por solucionar los problemas de Gemini, pero parece ser un juego interminable de golpear topos, en parte por la complejidad inherente a predecir lo que una IA puede generar, incluyendo la propensión a «alucinar», es decir, inventar respuestas. A esto se añade la misión autoimpuesta por Google de influir en los resultados de su IA, lo que ha alimentado las críticas sobre la «corrección política» de la compañía. La semana pasada, en respuesta a críticas similares relacionadas con la generación de imágenes y raza, Google detuvo la capacidad de Gemini para crear imágenes y reconoció sus intentos de ajustar el sistema para responder a críticas comunes sobre sesgos en IA, lo que llevó a respuestas «vergonzosas y erróneas», según expresó Prabhakar Raghavan, un vicepresidente senior de Google.
Respuestas y Perspectivas de Google
A pesar de la presión y las críticas, Google no parece dispuesto a realizar un purga estilo HUAC de su CEO o de otros empleados. La compañía ha indicado atención a la crítica digital que recibe, pero no está claro cómo logrará gestionar y mejorar las respuestas de Gemini. La empresa ha señalado su compromiso con la mejora continua mediante la referencia a una publicación en su blog sobre los problemas de generación de imágenes.
El Futuro de Gemini
La resolución de estos problemas es crucial para evitar daños mayores a la reputación de Google. Es probable que la comunidad en línea siga buscando ejemplos de respuestas problemáticas de Gemini, lo que pone a la empresa ante el reto de demostrar cómo puede manejar y adaptar su IA para evitar controversias futuras.