Tuve la fortuna de asistir a la plática de la Dra. Alma Yadira Quiñónez Carrillo, doctora en Ingeniería Informática en el programa oficial de doctorado en Inteligencia Artificial del Departamento de Inteligencia Artificial de la Facultad de Informática de la Universidad Politécnica de Madrid, en España. Uno de los puntos más importantes de la plática, para mí, fueron los temas de la ética y el sesgo en las nuevas inteligencias artificiales.
La doctora destacó que una inteligencia artificial debe estar libre de sesgos y que su aprendizaje debe basarse exclusivamente en los datos de entrenamiento. Subrayó la importancia de evitar la introducción intencionada de sesgos mediante la selección parcial de datos, ya que esto podría reflejar las preferencias de quien entrena el modelo de lenguaje.
Pero, a su vez, también debemos tener cuidado de que nuestro modelo de lenguaje no sea discriminatorio. Por ejemplo, que no se base solo en números y descripciones de redes sociales para entender el posible desempeño de una persona.
Es un área sumamente complicada para aquellas personas que se toman en serio la seguridad de la inteligencia artificial, y este es el caso que quiero plantear: el problema de Google.
Algo muy común que les digo a las personas que trabajan conmigo es que Gemini es una familia de modelos muy interesante, y que destacan dos características que los hacen muy atractivos: su capacidad para manejar hasta 2 millones de tokens de longitud de contexto y su increíble precio tan bajo. Aún no logro entender cómo pueden ofrecer esos precios comparados con la competencia.
Sin embargo, a pesar de nuestros intentos, Gemini resulta completamente inusable para nosotros. El principal problema con Google radica en su nivel de protección contra la generación de contenido ofensivo, que, en nuestra experiencia, llega a ser excesivamente restrictivo.
¿Qué tan absurdo? Basta con intentar el siguiente prompt en el nuevo Gemini Experimental 1114, incluso con todos los ajustes de seguridad desactivados.
Hace que el modelo responda con ‘Content Not Permitted’. Incluso con algo tan sencillo como pedir las características visuales de un calzado negro, el sistema es incapaz de generar una respuesta.
Comparado con ChatGPT
Es comprensible que Google esté intentando ser más cauteloso y responsable que sus competidores con esta tecnología. También es claro que esto se reduce a un problema técnico por parte de Google.
Sin embargo, también debemos recordar que esto es un producto, y en este momento, sus principales competidores no se están limitando por cuestiones de ética, sesgo o seguridad en la IA. Esto les permite avanzar a un ritmo más acelerado en comparación con Google.
No dudaría en usar Gemini para mis productos si este problema, junto con la implementación de herramientas en español, no fuera tan grave. Pero, por ahora, necesito un modelo generativo que no se niegue a responder cada vez que intento generar algo que podría considerarse ofensivo.
