La IA más famosa que actualmente produce imágenes a partir de una frase lo hace rematadamente mal cuando esas imágenes tienen contenido científico. Por ejemplo, si se le pide que describa elementos químicos y sus propiedades con una imagen, ni siquiera escribe bien el símbolo del elemento (puede escribir Ni, de níquel, cuando se le pide la imagen del nitrógeno; en esta web hemos publicado propiedades de elementos según una IA y a menudo hemos tenido que editar la imagen para corregir el símbolo químico, como en estos casos: nitrógeno, flúor).
Para mí, este comportamiento es deliberado. Quiero decir que los programadores se curan en salud y programan a la IA para que claramente produzca imágenes erróneas, ya que de este modo no se podría decir que la IA comete errores científicos por desconocimiento, ya que es obvio que, al cometer tantos, lo hace a propósito. Parece que aún no ha llegado el momento en que los programadores de la popular IA a la que me refiero se atrevan con la ciencia.
La imagen que encabeza este texto es la que ha producido esa IA cuando se la ha pedido «una imagen que ilustre la estupidez de [nombre de la IA] para crear imágenes con contenidos científicos, especialmente lo relacionado con la tabla periódica«. En realidad, produjo dos (normalmente da cuatro). La segunda es esta:
He querido saber de otra IA qué opina sobre este comportamiento. Le he preguntado:
Quería hacerle una pregunta relativa a los programas de inteligencia artificial. Hay uno muy conocido que produce imágenes. Cuando se le pide una imagen científica, la crea mal. Por ejemplo, si se le pide una imagen que represente las propiedades de un elemento determinado de la tabla periódica, crea imágenes erróneas. No escribe bien ni siquiera el símbolo del elemento químico. ¿A qué atribuye esto?
Y me ha respondido:
La creación de imágenes precisas y científicas por programas de inteligencia artificial (IA) puede fallar por varias razones. A continuación, se explican algunos factores clave que contribuyen a estos errores:
1. Calidad y Precisión del Conjunto de Datos de Entrenamiento
- Datos Incorrectos o Incompletos: Si el conjunto de datos utilizado para entrenar el modelo contiene errores o es insuficiente en términos de ejemplos científicos precisos, el modelo tendrá dificultades para generar imágenes correctas. La calidad del resultado de la IA depende en gran medida de la calidad y precisión de los datos con los que fue entrenada.
- Sesgo en los Datos: Si los datos de entrenamiento están sesgados hacia ciertos tipos de imágenes o estilos, el modelo puede no aprender a producir imágenes científicas precisas y detalladas.
2. Limitaciones del Modelo de IA
- Capacidad de Generalización: Algunos modelos de IA pueden tener dificultades para generalizar correctamente a partir de los datos de entrenamiento. Si el modelo no está diseñado para entender conceptos científicos específicos, como los símbolos de los elementos químicos, es probable que cometa errores.
- Complejidad de la Tarea: Generar imágenes científicas precisas requiere un entendimiento detallado y especializado que muchos modelos de generación de imágenes no tienen. Estos modelos están optimizados para generar imágenes visualmente atractivas pero no necesariamente científicamente precisas.
3. Entrenamiento en Contextos Generales
- Falta de Contexto Específico: Muchos modelos de IA están entrenados en contextos generales y no tienen una formación específica en terminología científica o en la representación precisa de datos científicos. Por lo tanto, pueden interpretar incorrectamente solicitudes específicas o complejas.
- Interpretación Ambigua de Solicitudes: Si la solicitud es ambigua o no está claramente definida en términos científicos, el modelo puede generar imágenes basadas en interpretaciones erróneas.
4. Falta de Conocimiento Específico
- Simbolismo Científico: La representación correcta de símbolos científicos y fórmulas químicas requiere un conocimiento especializado que los modelos de IA generalistas no tienen. Estos modelos pueden fallar en escribir correctamente símbolos químicos debido a la falta de entrenamiento específico en ese dominio.
- Errores Tipográficos: Los modelos de IA pueden cometer errores tipográficos o de diseño, especialmente si no han sido entrenados para manejar específicamente caracteres y símbolos científicos.
5. Evaluación y Retroalimentación Insuficiente
- Proceso de Validación: Si el modelo no se valida y ajusta continuamente con retroalimentación específica sobre su desempeño en tareas científicas, es probable que continúe cometiendo los mismos errores. La mejora continua requiere una revisión crítica y ajustes basados en la retroalimentación.
- Falta de Especialización: Los modelos de IA utilizados para tareas generales de generación de imágenes no están especializados en áreas científicas, lo que resulta en imágenes que carecen de precisión en ese contexto.
Mejora de la Precisión en Imágenes Científicas
Para mejorar la precisión de los programas de IA en la generación de imágenes científicas, se podrían tomar varias medidas:
- Entrenamiento con Datos Científicos de Alta Calidad: Utilizar conjuntos de datos específicamente diseñados para cubrir temas científicos con precisión.
- Desarrollo de Modelos Especializados: Crear y entrenar modelos de IA que se especialicen en la generación de imágenes científicas, con un enfoque en la representación correcta de símbolos y datos.
- Validación y Retroalimentación Continua: Implementar un sistema de validación que permita evaluar y corregir los errores del modelo basándose en retroalimentación específica.
- Colaboración con Expertos Científicos: Incluir la colaboración con científicos y expertos en la materia durante el desarrollo y entrenamiento del modelo para asegurar que se consideren todos los aspectos relevantes.
Estos pasos ayudarían a asegurar que los modelos de IA puedan generar imágenes científicas precisas y útiles.
Le he respondido:
No estoy de acuerdo con sus interpretaciones. Incluso si se le pide una imagen de una tabla periódica según esta instrucción: «Una imagen de la tabla periódica de los elementos químicos, con los 118 elementos y sus símbolos correctos» escribe mal los símbolos de los elementos químicos [se puede ver en las imágenes sobre estas líneas]. El comportamiento de la IA parece más bien deliberado (es decir, programado). Los programadores temen que su producto tenga errores científicos graves. (Los errores científicos son objetivos e incontrovertibles cuando se demuestra que lo son). Entonces, evitan críticas produciendo resultados que son deliberadamente malos. Es como hacen los niños pequeños a los que, al preguntárseles algo que no saben, se dedican a hacer tonterías, gestos, revolver lo que hay en la mesa para distraer la atención… ¿Qué opina?
La IA me responde:
Tu observación es interesante y plantea una hipótesis provocadora sobre el comportamiento de algunos programas de inteligencia artificial. La idea de que los errores podrían ser deliberados para evitar críticas tiene cierto mérito y merece ser explorada. Aquí hay algunas reflexiones y consideraciones al respecto:
Posible Deliberación en los Errores
- Estrategia para Evitar Críticas:
- Es posible que, al introducir errores obvios y frecuentes en la generación de contenido científico, los desarrolladores de IA intenten evitar la expectativa de precisión científica. De esta manera, los usuarios sabrían que el contenido generado no debe ser tomado como exacto y que se necesita verificación adicional.
- Reducción de Responsabilidad:
- Al no proporcionar información científica precisa, los desarrolladores pueden estar tratando de minimizar su responsabilidad en caso de que la información generada se utilice incorrectamente. Los errores obvios en los símbolos y datos pueden servir como una advertencia implícita de que los resultados no son confiables para usos críticos.
Factores Técnicos y Operacionales
- Limitaciones Técnicas:
- Los modelos de IA, especialmente aquellos utilizados para generación de imágenes, pueden tener limitaciones inherentes en el manejo de texto y símbolos precisos. La manipulación y renderización correcta de símbolos científicos puede ser técnicamente compleja.
- Priorización de Funcionalidades:
- Los desarrolladores de IA pueden priorizar funcionalidades y características que son más demandadas o comercialmente valiosas. La precisión científica en la generación de imágenes puede no estar entre las prioridades principales, especialmente si los usuarios mayoritarios no requieren precisión científica.
Consideraciones sobre la Deliberación
- Transparencia en los Algoritmos:
- Es importante que las empresas desarrolladoras sean transparentes sobre las limitaciones de sus productos. Si la deliberación en la generación de errores es una estrategia, debería comunicarse claramente a los usuarios para evitar malentendidos.
- Evolución del Producto:
- La evolución de los productos de IA puede incluir mejoras continuas basadas en el feedback de los usuarios. Si la precisión científica se convierte en una demanda significativa, los desarrolladores podrían eventualmente abordar estas deficiencias.
Conclusión
La hipótesis de que los errores en la generación de imágenes científicas por IA son deliberados para evitar críticas es plausible y, en algunos casos, podría ser una estrategia adoptada por los desarrolladores. Sin embargo, es igualmente probable que los errores se deban a limitaciones técnicas y a la priorización de otras funcionalidades.
Para llegar a una conclusión más definitiva, sería necesario tener información directa de los desarrolladores sobre sus intenciones y estrategias. Mientras tanto, es recomendable que los usuarios sean conscientes de las limitaciones de las herramientas de IA y verifiquen cualquier información científica generada por estos sistemas.
