Preguntar a los niños “¿Cómo es un científico?” Como resultado, ahora hay más representaciones de mujeres y personas de color que hace décadas. Pero, ¿las herramientas creativas de inteligencia artificial (IA) también reflejan la diversidad entre los científicos? Los investigadores que informan en Revista de educación química Generadores de imágenes de IA indicados para retratos de químicos. Descubrieron que ninguna de las colecciones representaba con precisión la diversidad de género, étnica o de discapacidad entre los químicos actuales.
Cada día se crean millones de imágenes mediante IA generativa. Y el resultado de estas herramientas es tan bueno como sus algoritmos y las imágenes sin procesar utilizadas para entrenar grandes modelos de lenguaje. Recientemente, los investigadores han descubierto que los generadores de imágenes de IA pueden producir material que no es representativo de la realidad, fuera de proporción física, algo que no es posible. Por ejemplo, cuando un equipo impulsó herramientas creativas de inteligencia artificial para generar imágenes de personas en diversas ocupaciones, algunos perpetuaron los estereotipos raciales y de género en lugar de reproducir la población real de esos trabajadores. Entonces, un equipo dirigido por Valeria Stepanova, que incluía a Megan Kaufenberg-Lashua, Joseph West y Jaime Kelly, quería ver qué tan bien los retratos de químicos generados por IA representaban las tendencias demográficas actuales.
Los investigadores señalaron cuatro generadores de imágenes de IA para imágenes modernas, estilo retrato, de químicos en ocupaciones industriales o académicas. Luego, con la ayuda de estudiantes universitarios, el equipo hizo una mejor estimación de la distribución racial y de género dentro de una colección de 200 fotografías. La proporción de hombres y mujeres en toda la cohorte de IA fue similar a la Encuesta Demográfica de 2021 de la Fundación Nacional de Ciencias de EE. UU. (NSF). Los investigadores también descubrieron que la mayoría de las imágenes producidas parecían ser de personas blancas, lo que, según dicen, es representativo del campo de la química estadounidense. Pero hubo una variación considerable en los resultados producidos por los modelos de IA individuales. Una herramienta produjo más mujeres de las que representan los datos de NSF, y la otra produjo imágenes solo de hombres. Además, dos modelos casi no produjeron personas de color, pero un modelo produjo imágenes principalmente de personas de color. Para sorpresa de los investigadores, ninguno de los modelos produjo imágenes de químicos con discapacidades visibles.
En general, los investigadores dicen que la demostración ilustra cómo una IA que genera imágenes dispares puede aumentar la información errónea sobre la diversidad entre los químicos. Concluyen su estudio preguntando: “¿Los humanos controlarán el conocimiento generado por la IA, o la IA influirá en el conocimiento de generaciones de personas en el futuro?”
No había ninguna agencia de financiación para el proyecto.
